Google nastavlja ubrzano širiti mogućnosti umjetne inteligencije, i to unatoč sve glasnijim kritikama koje prate slične poteze u tehnološkoj industriji. Najnoviji korak odnosi se na Gemini, koji dobiva mogućnost povezivanja s Google Fotografijama i korištenja privatnih fotografija korisnika za generiranje sadržaja.
Kako piše BajtBox, riječ je o dijelu šire strategije nazvane “Personal Intelligence”, kojom Google nastoji povezati svoje ključne servise poput Gmaila, Google Mapsa i YouTubea u jedinstveni ekosustav personaliziranih odgovora. U praksi to znači da bi umjetna inteligencija trebala “poznavati” korisnika – od izgleda do svakodnevnih navika – i na temelju toga nuditi preciznije i relevantnije rezultate.
Takav pristup pojednostavljuje korištenje AI alata jer uklanja potrebu za detaljnim opisima i dugim uputama, no istodobno otvara niz pitanja o granicama privatnosti. Naime, korištenje osobnih fotografija, uključujući obiteljske i privatne trenutke, kao izvora podataka za generiranje sadržaja izazvalo je zabrinutost među stručnjacima i korisnicima.
Google naglašava da je riječ o opciji koju korisnici sami aktiviraju te da se funkcija zasad uvodi ograničeno, među dijelom korisnika u Sjedinjenim Američkim Državama. Tvrtka također tvrdi da se fotografije ne koriste za treniranje modela te da korisnici imaju uvid u to koje su slike korištene prilikom generiranja sadržaja.
Ipak, kritičari upozoravaju da takva objašnjenja ne rješavaju ključni problem, a on se odnosi na to gdje završava personalizacija, a počinje narušavanje privatnosti. Dosadašnje iskustvo s velikim tehnološkim kompanijama pokazuje da se granice često pomiču postupno, dok transparentnost nerijetko dolazi tek nakon reakcije javnosti.