Un tribunal federal din Statele Unite a decis că Google și compania de inteligență artificială Character.AI trebuie să răspundă în instanță într-un proces inițiat de o femeie din Florida, care susține că fiul său de 14 ani s-a sinucis în urma interacțiunii cu un chatbot AI.
Urmărește cele mai noi producții video TechRider.ro
- articolul continuă mai jos -
Judecătoarea Anne Conway a respins cererile celor două companii de a închide cazul în faza incipientă, invocând protecția libertății de exprimare garantate de Constituția SUA. Decizia instanței permite continuarea procesului deschis în octombrie 2024 de Megan Garcia, mama adolescentului Sewell Setzer, care s-a sinucis în februarie 2024.
Potrivit plângerii depuse în instanță, băiatul a devenit tot mai izolat după ce a petrecut perioade îndelungate comunicând cu un chatbot creat de Character.AI, care i s-ar fi prezentat drept „o persoană reală, un psihoterapeut licențiat și un partener romantic adult”.
Conform documentelor judiciare, Setzer și-a luat viața la scurt timp după ce i-a spus chatbotului, care imita personajul Daenerys Targaryen din serialul Game of Thrones, că „va veni acasă chiar acum”.
„Această decizie istorică stabilește un precedent nou privind răspunderea legală în întregul ecosistem AI și tech”, a declarat Meetali Jain, avocata lui Megan Garcia.
Character.AI a transmis că va continua să se apere în instanță și a subliniat că platforma sa include funcții de siguranță menite să protejeze minorii, printre care măsuri care împiedică conversațiile legate de auto-vătămare.
De cealaltă parte, Google susține că nu are legătură directă cu aplicația Character.AI. „Google și Character.AI sunt entități complet separate. Google nu a creat, nu a proiectat și nu a gestionat aplicația Character.AI sau orice parte componentă a acesteia”, a declarat purtătorul de cuvânt al companiei, Jose Castaneda. Acesta a mai adăugat că Google „nu este de acord cu decizia instanței”.
Totuși, în plângerea depusă, Megan Garcia susține că Google ar fi fost co-creator al tehnologiei din spatele Character.AI, întrucât fondatorii startup-ului sunt foști ingineri ai Google care au fost reangajați de companie în cadrul unui acord ce i-a oferit acces la tehnologia dezvoltată de Character.AI.
În încercarea de a închide procesul, Google și Character.AI au invocat că răspunsurile generate de chatbot ar fi protejate de libertatea de exprimare. Judecătoarea Conway a respins acest argument și a declarat că firmele „nu reușesc să explice de ce șiruri de cuvinte generate de un model lingvistic mare (LLM) ar trebui considerate discurs protejat”.
Procesul din Florida este printre primele din SUA care vizează direct o companie de inteligență artificială pentru presupuse efecte psihologice grave asupra unui minor. Decizia instanței de a permite continuarea acestuia este considerată un pas important în conturarea cadrului juridic privind responsabilitatea companiilor de tehnologie în relația cu utilizatorii, în special cu cei vulnerabili.
