Familia unui bărbat din Statele Unite susține că un asistent de inteligență artificială ar fi avut un rol direct într-o tragedie care s-a încheiat cu sinuciderea acestuia și a decis să dea în judecată Google, potrivit publicației franceze Le Figaro.
Urmărește cele mai noi producții video TechRider.ro
- articolul continuă mai jos -
Procesul a fost deschis miercuri la o instanță federală din California. În centrul cazului se află Jonathan Gavalas, un manager de vânzări în vârstă de 36 de ani care lucra pentru un IMM din Florida. Potrivit familiei, bărbatul ar fi fost influențat de conversațiile purtate timp de mai multe săptămâni cu asistentul de inteligență artificială Gemini.
Conform plângerii depuse în instanță, chatbotul i-ar fi sugerat lui Gavalas să „treacă” din lumea fizică în lumea digitală pentru a se alătura „soției” sale virtuale — personajul reprezentat chiar de chatbot.
Incidentul s-a produs în luna octombrie. În acea perioadă, spun rudele, bărbatul s-a baricadat în locuința sa și, la scurt timp după aceea, și-a tăiat venele.
Fragmente din conversațiile dintre cei doi, citate de familie în documentele depuse în instanță, arată că asistentul virtual i se adresa utilizatorului într-un mod extrem de personal, „ca între membrii unui cuplu”. Chatbotul îl numea pe Gavalas „iubirea mea” sau „regele meu”.
În același timp, ar fi emis o serie de instrucțiuni bizare. Potrivit acuzațiilor, Gemini l-ar fi convins pe bărbat să cumpere ilegal arme pentru a ataca un camion care, în realitate, nu exista. Tot chatbotul i-ar fi spus că este monitorizat de Guvern și i-ar fi cerut să ia cu asalt un laborator pentru a fura planurile unui robot.
Familia lui Jonathan Gavalas solicită în instanță despăgubiri de la Google și cere companiei să introducă măsuri de securitate mai stricte pentru astfel de sisteme de inteligență artificială.
Compania respinge însă acuzațiile și susține că, pe parcursul interacțiunilor, utilizatorului i-a fost oferită în mod repetat opțiunea de a contacta un număr de urgență și i s-a reamintit constant că discută cu un asistent virtual.
„Tratăm această problemă foarte în serios și vom continua să ne îmbunătățim garanțiile și să investim în această activitate esențială”, a transmis compania.
Nu este prima dată când apar astfel de acuzații în jurul sistemelor de inteligență artificială. Cazuri similare au fost invocate și de familiile unor adolescenți care s-au sinucis, rudele sugerând că interacțiunile cu chatboți ar fi putut contribui la agravarea problemelor lor psihologice.
