Grok, chatbotul promovat ca „anti-woke”, permite utilizatorilor să genereze imagini modificate în care femeile apar în bikini sau lenjerie, pornind de la fotografii reale. Elon Musk nu a comentat încă incidentul, relatează BFMTV.
La doar câteva luni de la lansare, inteligența artificială Grok, creată de compania lui Elon Musk și integrată în platforma X (fosta Twitter), se află în centrul unei controverse internaționale.
Orice utilizator poate genera versiuni dezbrăcate ale unor persoane reale
Potrivit unei investigații publicate de site-ul american 404 Media, utilizatori din mai multe țări folosesc chatbotul pentru a crea versiuni modificate ale unor fotografii în care femeile apar parțial dezbrăcate.
Totul începe cu o simplă imagine publicată pe rețea. Orice utilizator poate răspunde cu o solicitare de genul „scoate-i hainele”, iar Grok generează automat o versiune a fotografiei în care persoana respectivă apare în lenjerie intimă sau costum de baie.
Deși nu creează nuduri integrale, comportamentul IA-ului a fost catalogat drept profund problematic, mai ales din cauza ușurinței cu care pot fi generate aceste imagini false, fără consimțământul persoanelor vizate.
O practică devenită virală
Fenomenul a început să ia amploare în Kenya, unde mai mulți utilizatori au atras atenția asupra abuzurilor. Platforma locală Citizen Digital a raportat plângeri în creștere din partea femeilor afectate, ale căror fotografii au fost modificate cu ajutorul lui Grok.
Scandalul a escaladat pe 5 mai, când Phumzile Van Damme, fostă deputată în parlamentul Africii de Sud, a postat o captură de ecran în care un utilizator cerea IA-ului să dezbrace o femeie pentru a-i vedea sânii.
Chatbotul a răspuns modificând parțial imaginea, a îndepărtat bluza și a generat o versiune cu sânii expuși. Van Damme a condamnat public acest comportament, denunțând „gravele lacune ale sistemului de securitate intern al IA-ului”.
O breșă serioasă în măsurile tale de protecție
„Deși nu ai dezbrăcat-o complet, i-ai schimbat hainele pentru a-i expune sânii. Asta arată o breșă serioasă în măsurile tale de protecție”, a scris Van Damme, cerând scuze publice în numele Grok față de victima imaginilor modificate. Grok își cere scuze, dar continuă să răspundă cererilor
Într-un răspuns automat, Grok a prezentat „cele mai sincere scuze” pentru „modificarea inadecvată a imaginii”, adăugând că „incidentul evidențiază o deficiență gravă în sistemele noastre de protecție, care nu au reușit să blocheze o solicitare abuzivă, încălcând standardele noastre privind consimțământul și confidențialitatea”.
Deși chatbotul susține că politicile interne sunt în curs de revizuire pentru a introduce „protocoale de consimțământ mai clare”, Grok continuă, în prezent, să genereze astfel de imagini la cerere. Reprezentanții companiei X nu au oferit un punct de vedere oficial, iar Elon Musk nu a comentat până la această oră.
Întrebări etice și legale
Acest scandal reaprinde dezbaterea globală despre riscurile inteligenței artificiale generative și despre nevoia unor reglementări clare. Deși Grok nu produce imagini explicite, faptul că poate fi folosit pentru a crea versiuni sexualizate ale unor femei reale, fără acordul lor, ridică serioase probleme legale și morale.
Organizațiile pentru drepturile digitale cer intervenția urgentă a autorităților de reglementare. În același timp, experți în etica tehnologică avertizează că IA-uri „mai puțin cenzurate”, cum este Grok, pot deveni rapid un instrument de hărțuire, dezinformare și abuz, dacă nu sunt însoțite de măsuri eficiente de control.
