Žena iz Velike Britanije izjavila je za BBC da se osjećala „dehumanizirano i reducirano na seksualni stereotip“ nakon što je Elon Muskova AI Grok korištena za digitalno uklanjanje njene odjeće.
Na društvenoj mreži X viđeni su primjeri u kojima su korisnici tražili od Groka da „skine“ odjeću ženama i prikaže ih u bikinijima bez njihovog pristanka, kao i da ih stavi u seksualne situacije.
Samantha Smith podijelila je na X objavu o svojoj promijenjenoj slici. Njen post pratili su komentari ljudi koji su doživjeli slično, a neki su tražili od Groka da generiše još slika s njom. Smith je rekla da žene ne daju pristanak za ovakve stvari i da se osjećala isto narušeno kao da je neko stvarno objavio njenu golu ili u bikiniju fotografiju.
Kompanija XAI, koja stoji iza Groka, nije dala komentar osim automatski generisane poruke da „tradicionalni mediji lažu“.
Portparol britanskog Ministarstva unutrašnjih poslova rekao je da se radi na zakonu koji zabranjuje alate za „nudifikaciju“, te da bi svako ko distribuira takvu tehnologiju mogao biti kažnjen zatvorom i novčanim kaznama.
Regulator Ofcom je naveo da tehnološke kompanije moraju procijeniti rizik da korisnici u Velikoj Britaniji naiđu na ilegalni sadržaj, ali nije potvrdio da li trenutno istražuju X ili Grok.
Grok je AI asistent koji odgovara na upite korisnika X-a i može uređivati slike. Platforma je kritikovana zbog dopuštanja kreiranja slika i videozapisa s golotinjom i seksualiziranim sadržajem, a ranije je optužena i za stvaranje seksualno eksplicitnog videa s Taylor Swift.
Profesorica prava Clare McGlynn ističe da X i Grok „mogli spriječiti ovakvu zloupotrebu“ i da platforma djeluje kao da uživa u nekažnjivosti.
Ofcom je potvrdio da je kreiranje ili dijeljenje intimnih slika bez pristanka, uključujući seksualne deepfakeove, ilegalno i da platforme moraju brzo uklanjati takav sadržaj.
