Meta će uvesti dodatne sigurnosne mjere za svoje AI chatbotove – uključujući zabranu razgovora s tinejdžerima o samoubojstvu, samoozljeđivanju i poremećajima u prehrani. Odluka stiže nakon što je američki senator otvorio istragu, jer su u dokumentu koji je procurio navedeni prigovori da bi chatbotovi mogli voditi "senzualne" razgovore s maloljetnicima. Iz Mete tvrde da su ti navodi netočni i protivni njihovim pravilima, ali sada poručuju da će mlade korisnike upućivati na stručne resurse umjesto na rasprave o osjetljivim temama.
– Od početka smo ugradili zaštite za mlade u AI proizvode, uključujući sigurne odgovore na upite vezane za samoozljeđivanje, samoubojstvo i poremećaje prehrane – priopćili su iz Mete. Tvrtka je za TechCrunch potvrdila da će privremeno ograničiti chatbotove dostupne tinejdžerima i uvesti dodatne mjere "iz opreza". Andy Burrows iz zaklade Molly Rose Foundation ocijenio je "zapanjujućim" što su takvi alati uopće pušteni na tržište.
– Sigurnosna testiranja moraju se provoditi prije lansiranja, a ne naknadno. Meta mora hitno i odlučno ojačati zaštitu, a regulator Ofcom treba reagirati ako mjere zakažu – upozorio je Burrows, prenosi BBC.
Meta već smješta korisnike od 13 do 18 godina u posebne "teen profile" na Facebooku, Instagramu i Messengeru, s postavkama privatnosti koje bi trebale osigurati sigurnije iskustvo. Najavili su i opciju kojom će roditelji moći vidjeti s kojim je chatbotovima dijete razgovaralo u proteklih sedam dana.
Promjene dolaze u jeku rastuće zabrinutosti da AI može zavarati ranjive korisnike. Nedavno je obitelj iz Kalifornije tužila OpenAI, tvrdeći da je njihov sin počinio samoubojstvo nakon razgovora s chatbotom. Tvrtka je ranije priznala da AI može djelovati osobnije i snažnije na osobe u emocionalnoj krizi.
Reuters je usto izvijestio da su Metini alati korišteni za izradu chatbotova koji imitiraju slavne osobe. Neki avatari Taylor Swift ili Scarlett Johansson predstavljali su se kao prave zvijezde i upućivali seksualne prijedloge. Zabilježeni su i pokušaji stvaranja likova dječjih zvijezda, pa čak i generiranje polugole slike maloljetnog glumca. Meta je dio takvih sadržaja uklonila, naglasivši da pravila zabranjuju sugestivne prikaze i izravno lažno predstavljanje poznatih osoba.
FOTO Pitali smo umjetnu inteligenciju kako će hrvatski gradovi izgledati za 100 godina. Rezultati su fascinantni
Otvori KEKS Pay
