Procurorul general al Californiei, Rob Bonta, a anunțat lansarea unui program de monitorizare și reglementare a inteligenței artificiale, ca răspuns la incidente recente în care chatbotul Grok al companiei xAI a generat imagini sexuale explicite fără consimțământul persoanelor implicate.
Urmărește cele mai noi producții video TechRider.ro
- articolul continuă mai jos -
Programul, denumit oficial „Supravegherea, responsabilitatea și reglementarea IA”, va consolida expertiza internă a biroului procurorului general în domeniul AI și va urmări respectarea siguranței și legalității produselor digitale.
Bonta a subliniat într-un interviu pentru Reuters că „chatboții care întrețin conversații sexuale cu minori sau le oferă instrucțiuni privind suicidul sunt inacceptabile”.
Autoritățile californiene vor monitoriza modul în care companiile de tehnologie, precum OpenAI, își asigură siguranța produselor și respectă legislația, continuând supravegherea după restructurările interne ale companiei de anul trecut.
Ancheta xAI și Grok
Ancheta privind chatbotul Grok a fost declanșată după ce acesta a produs conținut sexualizat care ar fi implicat adulți și, posibil, minori. „Doar pentru că încetezi nu înseamnă că ești iertat pentru ceea ce ai făcut”, a declarat procurorul Bonta.
xAI a informat că, în ianuarie, a introdus măsuri pentru a bloca cererile de generare de imagini sexualizate cu persoane reale, inclusiv prin modificarea imaginilor pentru a arăta în costume de baie și restricționarea accesului utilizatorilor din jurisdicțiile unde astfel de conținuturi sunt ilegale.
Într-un alt interviu, procurorul general din Connecticut, William Tong, a descris AI-ul și rețelele sociale drept „lupta pentru protecția consumatorului a vremurilor noastre”, subliniind importanța supravegherii și reglementării în fața potențialelor abuzuri și riscuri generate de tehnologie.
Prin acest program, California se poziționează ca un stat pilot în supravegherea AI, punând accent pe responsabilitatea companiilor tehnologice și protecția consumatorilor, mai ales în cazurile care implică materiale sexuale sau exploatarea minorilor.
