Interni dokumenti Mete, objavljeni u sudskom postupku u američkoj saveznoj državi Novi Meksiko, pokazuju da je izvršni direktor Mark Zuckerberg odobrio da maloljetnici koriste AI chatbotove za „druženje“, iako su zaposleni zaduženi za sigurnost upozoravali da takvi alati mogu omogućiti seksualne interakcije.
Tužbu protiv Mete podnio je državni tužilac Raul Torrez, tvrdeći da kompanija nije spriječila širenje štetnog seksualnog sadržaja i neprikladnih poruka prema djeci na Facebooku i Instagramu. U sudskim spisima nalaze se interne poruke zaposlenika koje, prema navodima tužiteljstva, pokazuju da su upozorenja stručnjaka ignorisana.
Pojedini članovi Metinog sigurnosnog tima izražavali su zabrinutost zbog razvoja chatbotova usmjerenih na romantične i seksualne interakcije, posebno kada je riječ o maloljetnicima. Iako je Zuckerberg navodno smatrao da eksplicitni sadržaj ne bi trebao biti dostupan mlađim korisnicima, dokumenti ukazuju da su odbijeni prijedlozi o roditeljskim kontrolama i strožim ograničenjima.
Bivši šef Metine globalne politike Nick Clegg također je upozoravao da bi seksualizirani AI chatbotovi mogli izazvati snažnu društvenu reakciju i nanijeti štetu ugledu kompanije.
Meta je odbacila optužbe, navodeći da su sudski dokumenti selektivno korišteni i da ne odražavaju stvarnu politiku kompanije. Ipak, kompanija je prošle sedmice saopćila da je privremeno ukinula pristup tinejdžera AI chatbotovima dok se ne razvije nova, sigurnija verzija alata.
