China intenționează să restricționeze chatboți bazați pe inteligență artificială pentru a împiedica influențarea emoțiilor umane în moduri care ar putea duce la sinucidere sau automutilare, potrivit proiectului de regulament, citat de CNBC.
Urmărește cele mai noi producții video TechRider.ro
- articolul continuă mai jos -
Propunerea de reglementare a Administrației Spațiului Cibernetic vizează ceea ce numește „servicii AI interactive de tip uman”, potrivit unei traduceri a documentului din limba chineză.
Odată finalizate, măsurile se vor aplica produselor sau serviciilor AI oferite publicului din China care simulează personalitatea umană și implică emoțional utilizatorii prin text, imagini, audio sau video. Perioada de consultare publică se încheie pe 25 ianuarie.
Regulile planificate de Beijing ar marca prima încercare din lume de a reglementa IA cu caracteristici umane sau antropomorfe, a declarat Winston Ma, profesor adjunct la Facultatea de Drept a Universității din New York. Cele mai recente propuneri vin în contextul în care companiile chineze au dezvoltat rapid companioni IA și celebrități digitale.
În comparație cu reglementarea IA generativă din China din 2023, Ma a spus că această versiune „evidențiază un salt de la siguranța conținutului la siguranța emoțională”.
Proiectul de reguli propune următoarele:
- Chatboții AI nu pot genera conținut care încurajează sinuciderea sau autovătămarea, nici nu pot recurge la violență verbală sau manipulare emoțională care dăunează sănătății mentale a utilizatorilor.
- Dacă un utilizator propune în mod specific sinuciderea, furnizorii de tehnologie trebuie să pună un om să preia conversația și să contacteze imediat tutorele utilizatorului sau o persoană desemnată.
- Chatboții AI nu trebuie să genereze conținut legat de jocuri de noroc, obscen sau violent.
- Minorii trebuie să aibă consimțământul tutorelui pentru a utiliza AI în scop emoțional, cu limite de timp de utilizare.
- Platformele ar trebui să poată determina dacă un utilizator este minor, chiar dacă acesta nu își dezvăluie vârsta, și, în caz de îndoială, să aplice setări pentru minori, permițând în același timp contestarea.
Dispoziții suplimentare ar impune furnizorilor de tehnologie să reamintească utilizatorilor după două ore de interacțiune continuă cu AI și să impună evaluări de securitate pentru chatboții AI cu peste 1 milion de utilizatori înregistrați sau peste 100.000 de utilizatori activi lunar.
