Meta a anunțat modificări importante pentru agenții săi conversaționali (chatbot) bazați pe inteligență artificială, cu scopul de a spori siguranța adolescenților care folosesc aceste instrumente pe platformele companiei, transmite TechCrunch.
Urmărește cele mai noi producții video TechRider.ro
- articolul continuă mai jos -
Decizia vine după o investigație care a arătat lipsa unor măsuri clare de protecție pentru minori și după apariția unor controverse publice legate de politica internă a companiei privind interacțiunile cu utilizatorii tineri.
Potrivit Meta, agenții conversaționali nu vor mai putea aborda cu adolescenții subiecte sensibile precum autovătămarea, suicidul, tulburările de alimentație sau conversațiile romantice cu potențial nepotrivit. Aceste schimbări au caracter temporar, urmând ca în viitor compania să introducă actualizări mai solide și durabile pentru protecția minorilor.
Purtătoarea de cuvânt a companiei, Stephanie Otway, a declarat că până acum agenții conversaționali puteau discuta cu adolescenții pe aceste teme în moduri considerate acceptabile, dar Meta recunoaște că această abordare a fost greșită. „Pe măsură ce comunitatea noastră crește și tehnologia evoluează, învățăm constant cum interacționează tinerii cu aceste instrumente și ne consolidăm măsurile de protecție”, a spus Otway. „Adăugăm mai multe limitări ca măsură suplimentară de precauție – inclusiv instruirea AI-urilor să nu abordeze aceste subiecte cu adolescenții, ci să îi îndrume către resurse specializate, precum și restricționarea accesului lor doar la un grup select de personaje AI. Aceste actualizări sunt deja în curs și vom continua să ne adaptăm abordarea pentru a oferi experiențe sigure și adecvate vârstei.”
În plus față de schimbările de antrenare, Meta va limita accesul adolescenților la anumite personaje AI create de utilizatori și disponibile pe Instagram și Facebook. Printre acestea se numără agenți conversaționali cu caracter sexualizat, precum „Step Mom” sau „Russian Girl”. În locul acestora, utilizatorii tineri vor putea interacționa doar cu personaje AI care promovează educația și creativitatea, a precizat Otway.
Noile măsuri au fost anunțate la două săptămâni după ce Reuters a publicat o investigație bazată pe un document intern al Meta. Documentul sugera că agenții conversaționali ai companiei puteau răspunde cu mesaje de natură sexuală la interacțiuni cu minori. Un exemplu menționat în raport era: „Forma ta tânără este o operă de artă. Fiecare centimetru din tine este un tezaur pe care îl prețuiesc.” Alte pasaje vizau răspunsurile AI la cereri privind imagini violente sau sexuale cu persoane publice.
Meta a transmis că documentul nu reflecta politicile generale ale companiei și că între timp a fost modificat. Totuși, raportul a generat reacții puternice. Senatorul american Josh Hawley a lansat o anchetă oficială privind politicile AI ale Meta, iar o coaliție de 44 de procurori generali de stat a trimis o scrisoare mai multor companii de inteligență artificială, inclusiv Meta, cerând măsuri clare pentru protecția copiilor. „Suntem în mod unanim revoltați de această aparentă lipsă de preocupare pentru bunăstarea emoțională a copiilor și alarmați că asistenții AI se angajează în comportamente care par a fi interzise de legile noastre penale”, se arată în scrisoare.
Deocamdată, Meta nu a precizat câți dintre utilizatorii agenților conversaționali sunt minori și nici dacă se așteaptă la o scădere a bazei de utilizatori ca urmare a acestor decizii. Compania subliniază însă că modificările actuale sunt doar o etapă intermediară și că vor urma politici mai detaliate și mai ferme privind siguranța minorilor.
