China a lansat un proiect de reglementare care vizează serviciile de inteligență artificială capabile să simuleze trăsături umane și să interacționeze emoțional cu utilizatorii. Documentul a fost publicat pentru consultare publică de autoritatea de reglementare a spațiului cibernetic din China, potrivit Reuters.
Urmărește cele mai noi producții video TechRider.ro
- articolul continuă mai jos -
Propunerea se adresează produselor și serviciilor AI oferite publicului care reproduc personalități umane, moduri de gândire și stiluri de comunicare, folosind text, imagini, sunet sau video. Obiectivul declarat este consolidarea cerințelor de siguranță și etică, într-un context în care AI-ul destinat consumatorilor se dezvoltă rapid.
Obligații pentru furnizori și protecția utilizatorilor
Regulile prevăd că furnizorii vor fi obligați să avertizeze utilizatorii asupra riscului de utilizare excesivă. De asemenea, aceștia ar trebui să intervină atunci când apar semne de dependență. Responsabilitatea pentru siguranță ar urma să acopere întregul ciclu de viață al produsului, de la dezvoltare până la utilizare.
Proiectul impune și măsuri clare privind gestionarea tehnologiei. Furnizorii ar trebui să implementeze sisteme de evaluare a algoritmilor, mecanisme de securitate a datelor și proceduri pentru protecția informațiilor personale.
Riscuri psihologice și limite de conținut
Un capitol distinct este dedicat riscurilor psihologice.
Documentul menționează că operatorii de servicii AI trebuie să poată identifica starea emoțională a utilizatorilor și nivelul de dependență față de platformă. În situațiile în care sunt detectate emoții extreme sau comportamente adictive, furnizorii ar trebui să adopte „măsuri necesare de intervenție”.
Reglementarea stabilește și limite stricte privind conținutul. Serviciile AI nu trebuie să genereze materiale care pun în pericol securitatea națională, răspândesc zvonuri sau promovează violența ori obscenitatea.
Inițiativa reflectă strategia Beijingului de a menține un control strict asupra noilor tehnologii digitale, în paralel cu extinderea utilizării inteligenței artificiale în rândul populației. Consultarea publică este deschisă, urmând ca forma finală a regulilor să fie stabilită după analizarea comentariilor primite.
