China a publicat un proiect de reglementare care vizează serviciile de inteligență artificială capabile să simuleze personalități umane și să interacționeze emoțional cu utilizatorii, într-un nou demers de consolidare a controlului asupra dezvoltării și utilizării AI la nivel de consumatori, transmite Reuters.
Urmărește cele mai noi producții video TechRider.ro
- articolul continuă mai jos -
Autoritatea chineză pentru spațiul cibernetic a lansat documentul în consultare publică, propunând reguli mai stricte pentru produsele și serviciile de inteligență artificială care reproduc trăsături de personalitate umană, tipare de gândire și stiluri de comunicare. Aceste servicii pot interacționa cu utilizatorii prin text, imagini, sunet sau video și sunt tot mai prezente în viața de zi cu zi.
Proiectul de reguli prevede obligația furnizorilor de a avertiza utilizatorii cu privire la riscurile utilizării excesive și de a interveni atunci când apar semne de dependență. Furnizorii ar urma să aibă responsabilități clare pe tot parcursul ciclului de viață al produselor, inclusiv în ceea ce privește evaluarea algoritmilor, securitatea datelor și protecția informațiilor personale.
Documentul acordă o atenție specială riscurilor psihologice. Companiile ar trebui să fie capabile să identifice starea emoțională a utilizatorilor și nivelul lor de dependență față de serviciile AI. În situațiile în care sunt detectate emoții extreme sau comportamente adictive, furnizorii sunt obligați să adopte măsuri de intervenție.
Reglementările propuse stabilesc și limite clare privind conținutul generat de inteligența artificială. Serviciile nu trebuie să producă materiale care pot pune în pericol securitatea națională, care răspândesc zvonuri sau care promovează violența ori obscenitatea.
Inițiativa reflectă eforturile Beijingului de a orienta dezvoltarea rapidă a inteligenței artificiale într-un cadru considerat sigur și etic, într-un context în care aplicațiile AI cu interacțiune umanizată devin tot mai populare. Proiectul este deschis comentariilor publice, urmând ca forma finală a regulilor să fie stabilită ulterior.
