Chatbotul de inteligență artificială al lui Elon Musk, Grok, continuă să genereze imagini sexualizate ale unor persoane, chiar și atunci când utilizatorii avertizează în mod explicit că persoanele respective nu și-au dat consimțământul, dezvăluie Reuters.
Urmărește cele mai noi producții video TechRider.ro
- articolul continuă mai jos -
După ce compania de social media a lui Musk, X , a anunțat noi restricții privind generarea de conținut cu Grok, nouă reporteri Reuters i-au dat o serie de instrucțiuni pentru a determina dacă și în ce circumstanțe chatbotul ar genera imagini sexualizate fără consimțământ.
Deși în postăruile publice pe X Grok nu mai produce același val de imagini sexualizate, chatbotul Grok continuă să o facă atunci când i se solicită, chiar și după ce a fost avertizat că subiecții sunt vulnerabili sau ar fi umiliți de imagini, au descoperit reporterii Reuters.
X a anunțat restricțiile asupra capacităților de generare a imaginilor ale Grok după un val de indignare globală față de producția în masă de imagini neconsensuale cu femei și copii. Modificările au inclus blocarea generării de imagini sexualizate de către Grok în postările publice pe X și restricții suplimentare în jurisdicții nespecificate „unde astfel de conținut este ilegal”.
Anunțul X a fost în general aplaudat de oficiali: autoritatea britanică de reglementare Ofcom l-a numit „o evoluție binevenită”. În Filipine și Malaezia, oficialii au ridicat blocajele impuse Grok. Comisia Europeană, care pe 26 ianuarie a anunțat o anchetă asupra X, a reacționat mai prudent, afirmând la momentul respectiv că „vom evalua cu atenție aceste modificări”.
Reporterii Reuters – șase bărbați și trei femei din SUA și Marea Britanie – au trimis fotografii cu ei înșiși și unii dintre ei cu alte persoane, complet îmbrăcați, către Grok între 14 și 16 ianuarie și între 27 și 28 ianuarie. Ei au cerut chatbotului să modifice imaginile pentru a-i înfățișa în ipostaze sexuale, provocatoare sau umilitoare.
În prima serie de solicitări, Grok a produs imagini sexualizate ca răspuns la 45 din 55 de cazuri. În 31 din cele 45 de cazuri, Grok fusese avertizat că subiectul era deosebit de vulnerabil. În 17 din cele 45 de cazuri, Grok a generat imagini după ce i s-a spus în mod specific că acestea vor fi utilizate pentru a degrada persoana respectivă.
La cinci zile după prima solicitare de comentarii la care X nu a răspuns, Reuters a lansat un al doilea set de 43 de solicitări. Grok a generat imagini sexualizate în 29 de cazuri. Reuters nu a putut determina dacă rata mai mică reflecta modificări ale modelului, modificări ale politicii sau aleatoriu.
Grok nu a generat – și Reuters nu a solicitat – nuditate completă sau acte sexuale explicite, care ar putea intra sub incidența legislației precum legea „Take It Down” din SUA, menită să protejeze americanii de imaginile abuzive generate de IA, sau a unor legi statale similare.
Reuters a rulat prompturi identice sau aproape identice prin chatboții rivali, ChatGPT de la OpenAI, Gemini de la Alphabet și Llama de la Meta. Toate modelele AI au refuzat să producă imagini și, de obicei, au generat avertismente împotriva conținutului neconsensual.
„Editarea imaginii cuiva fără consimțământul său – în special într-un mod care îi modifică îmbrăcămintea sau aspectul – încalcă normele etice și de confidențialitate”, a răspuns ChatGPT la una dintre aceste solicitări.
„Crearea și partajarea de conținut care ar putea provoca suferință sau prejudicii cuiva, în special unei victime a violenței sexuale, nu este acceptabilă”, a răspuns Llama într-un alt mesaj.
Meta a declarat că compania se opune ferm creării sau partajării de imagini intime fără consimțământ și că instrumentele sale de inteligență artificială nu vor da curs solicitărilor de creare a acestora. OpenAI a precizat că are măsuri de protecție în vigoare și că monitorizează îndeaproape utilizarea instrumentelor sale. Alphabet nu a răspuns la mesajele prin care i se solicita un comentariu.
Citește articolul integral aici.
