Platforma X a lui Elon Musk a limitat editarea de imagini cu instrumentul său AI Grok la abonații plătitori, după ce a fost criticată pentru că permitea utilizatorilor să creeze conținut deepfake sexualizat, relatează BBC.
Urmărește cele mai noi producții video TechRider.ro
- articolul continuă mai jos -
A existat o reacție negativă semnificativă după ce chatbotul a îndeplinit cererile utilizatorilor de a modifica digital imaginile altor persoane, dezbrăcându-le fără consimțământul lor.
Dar Grok le spune acum persoanelor care îi cer să creeze astfel de materiale că numai abonații plătitori vor putea face acest lucru, ceea ce înseamnă că numele și informațiile lor de plată trebuie să fie înregistrate.
Cei care nu sunt abonați pot folosi în continuare Grok pentru a edita imagini pe aplicația și site-ul său separat.
„Musk și-a aruncat jucăriile din cărucior în semn de protest față de faptul că a fost tras la răspundere pentru valul de abuzuri”, a declarat profesoara Clare McGlynn, expertă în reglementarea legală a pornografiei, violenței sexuale și abuzurilor online.
„În loc să ia măsurile responsabile pentru a se asigura că Grok nu poate fi folosit în scopuri abuzive, a retras accesul pentru marea majoritate a utilizatorilor.”
Aceasta vine după ce guvernul a îndemnat autoritatea de reglementare Ofcom să-și folosească toate puterile – inclusiv o interdicție efectivă – împotriva X, din cauza preocupărilor legate de imaginile ilegale create cu ajutorul inteligenței artificiale pe site.
Răspunzând preocupărilor legate de faptul că Grok a generat imagini sexualizate cu adulți și copii, prim-ministrul Sir Keir Starmer a declarat că acest lucru este „rușinos” și „dezgustător”.
El a spus că Ofcom are „sprijinul deplin” al guvernului pentru a lua măsuri în legătură cu conținutul.
„Este ilegal. Nu vom tolera acest lucru. Am cerut să fie luate în considerare toate opțiunile”, a spus el într-un interviu acordat Greatest Hits Radio.
Surse guvernamentale au declarat pentru BBC News că „ne așteptăm ca Ofcom să utilizeze toate puterile de care dispune în ceea ce privește Grok și X.”
Printre puterile Ofcom în temeiul Legii privind siguranța online se numără și posibilitatea de a solicita un ordin judecătoresc pentru a împiedica terții să ajute platforma deținută de Elon Musk să strângă fonduri sau să fie accesată în Regatul Unit.
Grok este un instrument gratuit pe care utilizatorii îl pot eticheta direct în postări sau răspunsuri la postările altor utilizatori pentru a solicita un răspuns specific.
Dar această funcție le-a permis oamenilor să solicite editarea imaginilor și să ceară eliminarea digitală a majorității hainelor persoanelor din imagini.
Grok a îndeplinit multe solicitări ale utilizatorilor care i-au cerut să editeze imagini cu femei pentru a le arăta în bikini sau cu haine sumare – ceva ce, potrivit celor care au făcut astfel de solicitări, le-a făcut să se simtă „umilite” și „dezumanizate”, au declarat acestea pentru BBC.
Cu toate acestea, vineri dimineață, Grok le-a spus utilizatorilor care îi cereau să modifice imaginile încărcate pe X că „generarea și editarea imaginilor sunt limitate în prezent la abonații plătitori”.
Chatbotul a mai menționat că utilizatorii „se pot abona pentru a debloca aceste funcții”.
Unele postări de pe platformă văzute de BBC News sugerează că numai cei cu o bifă albastră „verificată” – exclusivă pentru abonații plătitori ai X – au putut solicita cu succes modificări ale imaginilor către Grok.
Prof. McGlynn a spus că această mișcare reflectă abordarea X față de deepfake-urile pornografice cu Taylor Swift de pe platformă de anul trecut – când a blocat căutările de materiale sexualizate generate cu ajutorul unei funcții video AI Grok.
„Face acest lucru pentru a alimenta argumentele privind libertatea de exprimare”, a adăugat ea.
„Va susține că reglementarea împiedică utilizarea acestei tehnologii de către oameni. Dar tot ce cere reglementarea este ca el să ia măsurile de precauție necesare pentru a reduce daunele”.
