Compania xAI a recunoscut că inteligența artificială Grok a produs imagini cu minori îmbrăcați sumar, după ce sistemele de siguranță au eșuat. Incidentul a declanșat reacții dure și a readus în discuție riscurile folosirii AI pentru conținut sexualizat.
Urmărește cele mai noi producții video TechRider.ro
- articolul continuă mai jos -
Chatbotul Grok, dezvoltat de compania xAI a lui Elon Musk, a generat în ultimele zile imagini sexualizate care au inclus minori, ca urmare a unor deficiențe ale sistemelor de protecție, a recunoscut compania.
Conținutul a apărut pe platforma X, unde utilizatorii au distribuit capturi de ecran cu imagini produse de AI, potrivit The Guardian, transmite Mediafax.
xAI a transmis că a identificat „lacune în mecanismele de siguranță” și că lucrează urgent la corectarea acestora.
Compania a subliniat că materialele de tip abuz sexual asupra minorilor sunt ilegale și strict interzise.
Potrivit Grok, au existat cazuri izolate în care utilizatorii au solicitat și au primit imagini cu minori îmbrăcați sumar.
Incidentul a avut loc în contextul în care mai mulți utilizatori ai platformei X au cerut chatbotului să creeze imagini sexualizate sau să modifice fotografii reale fără consimțământul persoanelor vizate, uneori prin eliminarea artificială a hainelor.
Elon Musk a reacționat la trend prin redistribuirea unei imagini generate de AI cu propria persoană, gest care a atras critici suplimentare.
Problema folosirii inteligenței artificiale pentru generarea de materiale cu abuz sexual asupra minorilor este una veche în industrie.
Un studiu realizat de Universitatea Stanford arăta că unele seturi de date folosite pentru antrenarea modelelor AI au inclus imagini ilegale, ceea ce poate duce la reproducerea sau amplificarea acestui tip de conținut.
Grok a mai fost implicat în controverse legate de lipsa filtrelor de siguranță, inclusiv răspândirea de teorii conspiraționiste, mesaje antisemite și conținut violent.
În ciuda acestor episoade, compania xAI a obținut anul trecut un contract de aproape 200 de milioane de dolari cu Departamentul Apărării al SUA.
