Trei senatori democrați din Statele Unite cer companiilor Apple și Google să elimine aplicațiile X și Grok din magazinele lor de aplicații, pe fondul răspândirii pe scară largă a unor imagini sexualizate generate cu ajutorul inteligenței artificiale, fără consimțământul persoanelor vizate, scriu NBC News și Reuters.
Urmărește cele mai noi producții video TechRider.ro
- articolul continuă mai jos -
Controversa în jurul Grok
În centrul controversei se află Grok, chatbotul dezvoltat de compania xAI, care este integrat în platforma X și disponibil și ca aplicație separată. În ultimele zile, utilizatori ai platformei au folosit Grok pentru a genera imagini sexualizate cu persoane reale, în special femei, dar și minori, folosind fotografii existente și modificându-le digital pentru a le plasa în ținute provocatoare sau în ipostaze degradante, violente ori sexualizate.
Scrisoarea senatorilor
Într-o scrisoare transmisă directorilor Apple și Google, senatorii afirmă că aceste practici încalcă termenii de utilizare ai ambelor magazine de aplicații.
Potrivit documentului, regulile Google interzic distribuirea de conținut care facilitează exploatarea sau abuzul copiilor, iar politicile Apple nu permit materiale sexuale sau pornografice și nici conținut menit să umilească, să intimideze sau să facă rău unor persoane.
„Apple și Google trebuie să elimine aceste aplicații din magazinele de aplicații până când încălcările de politică ale X sunt remediate”, se arată în scrisoare. Autorii avertizează că lipsa unei reacții ar submina afirmațiile publice ale celor două companii potrivit cărora magazinele lor oferă un mediu mai sigur pentru utilizatori decât instalarea directă a aplicațiilor pe telefoane.
Într-o declarație transmisă presei americane, unul dintre semnatarii scrisorii a susținut că modificările recente operate de X nu rezolvă problema de fond. „Tot ce fac schimbările X este să îi facă pe unii utilizatori să plătească pentru privilegiul de a produce imagini oribile în aplicația X, în timp ce Musk profită de pe urma abuzului asupra copiilor”, se arată în reacția oficială.
Răspunsul X și limitările impuse
Ca răspuns la criticile tot mai intense, X a ajustat modul de funcționare al botului Grok pe platformă, limitând generarea de imagini prin intermediul răspunsurilor automate la utilizatorii cu abonamente plătite. De asemenea, anumite solicitări publice de modificare a imaginilor au început să fie respinse. Cu toate acestea, potrivit NBC News și Reuters, Grok continuă să poată genera imagini sexualizate prin fila dedicată din X, precum și prin aplicația Grok de sine stătătoare și versiunea web.
Compania X, deținută de Elon Musk, a transmis că ia măsuri împotriva conținutului ilegal, inclusiv a materialelor de abuz sexual asupra copiilor. Totuși, o mare parte dintre imaginile generate de Grok nu sunt considerate ilegale conform legislației actuale, deși sunt realizate fără consimțământul persoanelor reprezentate.
Poziția lui Musk și presiuni internaționale
Musk a criticat în repetate rânduri ceea ce el numește „moderare excesivă”, pe care o asociază cu cenzura. În postări recente pe X, el a susținut că autoritățile, inclusiv cele din Regatul Unit, caută „pretexte pentru a suprima libertatea de exprimare”. În paralel, compania a reiterat că utilizatorii care creează conținut ilegal cu ajutorul Grok vor fi sancționați.
Presiunea asupra X nu vine doar din Statele Unite. În Marea Britanie, ministrul tehnologiei Liz Kendall a declarat că autoritatea de reglementare Ofcom ar putea interveni rapid împotriva platformei dacă aceasta nu respectă obligațiile legale, inclusiv prin amenzi substanțiale sau blocarea serviciilor.
Apple și Google nu au comentat public solicitarea senatorilor. Ambele companii au eliminat în trecut aplicații care permiteau „dezbrăcarea” digitală a persoanelor reale, invocând încălcarea regulilor privind conținutul neconsimțit. În prezent, însă, atât X, cât și Grok rămân disponibile în App Store și Google Play și se află printre aplicațiile populare, în ciuda controversei legate de utilizarea inteligenței artificiale pentru generarea de imagini sexualizate fără acordul celor reprezentați.
