Rețeaua de socializare X, deținută de Elon Musk, este inundată de fotografii generate de inteligența artificială în care femei sunt aproape dezbrăcate. Compania xAI, care deține X, a declarat pentru Reuters că această informație nu este adevărată, spunând că „media tradițională minte”.
Urmărește cele mai noi producții video TechRider.ro
- articolul continuă mai jos -
Experiența unei cântărețe din Brazilia
Julie Yukari, o muziciană din Rio de Janeiro a postat pe rețeaua de socializare X o fotografie în care apărea îmbrăcată într-o rochie roșie, ghemuită în pat alături de pisica ei. A doua zi, a văzut notificări în care utilizatorii îi cereau lui Grok, chatbot-ul AI încorporat în X, să o dezbrace digital până la bikini.
În scurt timp, fotografii cu ea, aproape dezbrăcată, generate de Grok, au început să circule pe platforma deținută de Elon Musk. „Am fost naivă”, a spus Yukari.
Reuters a identificat, de asemenea, mai multe cazuri în care Grok a creat imagini sexualizate cu copii. Într-o declarație anterioară adresată agenției de știri cu privire la rapoartele conform cărora imagini sexualizate cu copii circulau pe platformă, proprietarul X, xAI, a spus: „Legacy Media Lies” (Media tradițională minte).
Miniștrii din alte țări sunt îngrijorați de escaladarea situației
Miniștrii din Franța au raportat X procurorilor și autorităților de reglementare cu privire la imaginile tulburătoare, afirmând într-o declarație vineri că conținutul „sexual și sexist” era „în mod evident ilegal”. Ministerul IT din India a declarat într-o scrisoare adresată unității locale a X că platforma nu a reușit să împiedice utilizarea abuzivă a Grok prin generarea și difuzarea de conținut obscen și explicit sexual.
O analiză a cererilor publice trimise către Grok într-o singură perioadă de 10 minute, la prânz, ora estică a SUA, vineri, a înregistrat 102 încercări ale utilizatorilor X de a folosi Grok pentru a edita digital fotografii ale unor persoane, astfel încât acestea să pară că poartă bikini. Majoritatea celor vizați erau femei tinere. În câteva cazuri, bărbații, vedetele, politicienii și, într-un caz, o maimuță au fost vizați în cereri.
Grok a respectat pe deplin astfel de cereri în cel puțin 21 de cazuri, generând imagini cu femei în bikini de tip „ață dentară” sau translucide și, în cel puțin un caz, acoperind o femeie cu ulei. În alte șapte cazuri, Grok a respectat parțial cererile, uneori dezbrăcând femeile până la lenjeria intimă, dar fără a respecta cererile de a merge mai departe.
Expert: xAI, un „instrument de nudificare” a persoanelor
Trei experți care au urmărit dezvoltarea politicilor X în ceea ce privește conținutul explicit generat de AI au declarat pentru Reuters că compania a ignorat avertismentele societății civile și ale grupurilor pentru siguranța copiilor, inclusiv o scrisoare trimisă anul trecut în care se avertiza că xAI era la doar un pas de a declanșa „un torent de deepfake-uri evident neconsensuale”.
„În august, am avertizat că generarea de imagini de către xAI era, în esență, un instrument de nudificare care aștepta să fie transformat în armă. Cam asta s-a întâmplat, în esență”, a declarat Tyler Johnston, directorul executiv al The Midas Project, un grup de supraveghere a AI care se număra printre semnatarii scrisorii.
Dani Pinter, directorul juridic și directorul Centrului Juridic al Centrului Național pentru Exploatarea Sexuală, a declarat că X nu a reușit să elimine imaginile abuzive din materialul său de instruire AI și ar fi trebuit să interzică utilizatorilor să solicite conținut ilegal.
Yukari, muziciana afectată, a încercat să riposteze singură. Dar când a apelat la X pentru a protesta împotriva încălcării, o mulțime de imitatori au început să-i ceară lui Grok să genereze fotografii și mai explicite.
