Direktorica AI kompanije Signal Meredith Whittaker iznijela je zanimljiv stav o AI chatbotovima. Na pitanje o posljedicama po privatnost koje donose chatbotovi poput ChatGPT-ja i Clauda, Whittaker je odgovorila: - To nisu vaši prijatelji. Oni nisu svjesna bića i nisu razumni sugovornici - upozorila je, odbacujući sve rašireniju naviku korisnika da umjetnu inteligenciju doživljavaju kao pouzdanog sugovornika ili bliskog pratitelja.
Njezini komentari izneseni su u intervjuu za Bloomberg u kojem je Whittaker iznijela stav da vizija tzv. agentske umjetne inteligencije, koju promoviraju velike tehnološke tvrtke poput Microsofta, predstavlja novu vrstu infrastrukture za masovni nadzor. Whittaker, koja vodi neprofitnu organizaciju za šifriranu komunikaciju Signal od rujna 2022., priznala je da koristi AI alate „tu i tamo za oblikovanje nekog dokumenta“, ali povukla je jasnu granicu kada je riječ o ozbiljnijoj upotrebi. - Ne postavljam im pitanja - rekla je, prenosi The Next Web.
Objasnila je da joj je važno samostalno razmišljanje i pisanje te da ne želi dopustiti da proces razvijanja ideje bude zaustavljen ili zasjenjen odgovorima sustava koji samo obrađuje i kombinira ono što već postoji. Whittaker je posebno kritizirala koncept AI agenata – sustava koji bi trebali samostalno obavljati zadatke korisnika, poput slanja poruka, organiziranja rasporeda ili kupnje proizvoda. Prema njezinim riječima, problem nastaje kada takvi alati zahtijevaju pristup privatnim podacima poput e-mailova, razgovora, kalendara ili podataka o plaćanju.
Takvi sustavi, upozorila je, mogu postati „stražnja vrata“ kroz koja tehnološke kompanije dobivaju uvid u najosjetljivije dijelove života korisnika. Njezina kritika dolazi u trenutku kada industrija umjetne inteligencije sve više ulaže u razvoj osobnih AI asistenata koji bi trebali djelovati kao digitalni posrednici između korisnika i interneta. Dok zagovornici tvrde da će takvi alati povećati produktivnost, kritičari upozoravaju na rizike za privatnost i mogućnost stvaranja novih oblika nadzora.
Whittaker smatra da korisnici trebaju biti oprezni prema ideji da će im AI sustavi pružiti stvarno razumijevanje ili prijateljstvo. Prema njezinim riječima, iza prividno prirodnog razgovora i dalje se nalaze algoritmi koji predviđaju odgovore, a ne bića koja razumiju čovjeka.