Golemi sigurnosni propust pogodio je xAI, tvrtku Elona Muska, nakon što je otkriveno da su stotine tisuća privatnih razgovora korisnika s AI chatbotom Grok indeksirane i javno dostupne. Procjenjuje se da je više od 370.000 pojedinačnih razgovora postalo pretraživo putem tražilica poput Googlea, Binga i DuckDuckGoa. Do curenja je došlo zbog naizgled bezazlene funkcije dijeljenja, piše BBC. Kada bi korisnik pritisnuo gumb kako bi podijelio transkript razgovora, sustav bi generirao jedinstvenu poveznicu. Međutim, umjesto da ostane privatna, ta je poveznica automatski objavljena na Grokovoj web stranici, čime je postala vidljiv plijen za internetske tražilice, a da korisnici toga uglavnom nisu bili svjesni.
Sadržaj koji je iscurio u javnost je šokantan i daleko nadilazi uobičajene upite. Među javno dostupnim transkriptima pronađeni su razgovori u kojima korisnici traže savjete za izradu sigurnih lozinki, planove prehrane ili detaljne odgovore na pitanja o medicinskim stanjima. No, otkriveni su i daleko opasniji sadržaji, uključujući detaljne upute za laboratorijsku proizvodnju fentanila i drugih droga klase A, popise metoda samoubojstva, ponude zlonamjernog koda, pa čak i navodni plan za atentat na samog Elona Muska. Dodatan razlog za zabrinutost je činjenica da su korisnici dijelili i dokumente poput proračunskih tablica koji su sadržavali osobna imena, lozinke i povjerljive medicinske podatke.
Ovaj incident baca tamnu sjenu na ranije izjave tvrtke xAI, koja je tvrdila da joj je privatnost korisnika prioritet. Ironično, samo nekoliko mjeseci ranije, nakon što se OpenAI suočio sa sličnim problemom kod svog ChatGPT-a, službeni Grokov profil na mreži X objavio je da "nema takvu značajku dijeljenja" upravo kako bi zaštitio privatnost. Sam Musk potvrdio je tu izjavu, no sada se ispostavilo da je implementirana funkcija dijeljenja postala, kako je jedan stručnjak za BBC izjavio, "privatnosna katastrofa u nastajanju".
Slučaj Groka nije usamljen i samo je posljednji u nizu primjera koji pokazuju kako AI platforme predstavljaju ozbiljan rizik za privatnost. Prije xAI-ja, i OpenAI i Meta suočili su se s kritikama zbog sličnih propusta gdje su dijeljeni razgovori s njihovim chatbotovima postajali javni. Ovi događaji jasno upozoravaju da tehnološki divovi još uvijek nisu pronašli pouzdan način za balansiranje između funkcionalnosti i temeljne zaštite korisničkih podataka u eri umjetne inteligencije.