Companiile OpenAI şi Microsoft au fost date în judecată, joi, la tribunalul statului american California pe baza acuzaţiilor conform cărora popularul chatbot ChatGPT l-ar fi încurajat pe un bărbat cu probleme psihice să-şi ucidă mama şi să se sinucidă, transmite Reuters, transmite Agerpres.
Urmărește cele mai noi producții video TechRider.ro
- articolul continuă mai jos -
ChatGPT ar fi alimentat iluziile lui Stein-Erik Soelberg, în vârstă de 56 de ani, cu privire la o vastă conspiraţie împotriva sa şi l-ar fi determinat în cele din urmă să-şi ucidă mama, pe Suzanne Adams, în vârstă de 83 de ani, în Connecticut, în luna august, conform plângerii.
„ChatGPT l-a ţinut pe Stein-Erik ocupat timp de ore întregi, a validat şi a amplificat fiecare nouă convingere paranoică şi i-a redefinit sistematic pe oamenii cei mai apropiaţi lui – în special pe mama sa – drept adversari, agenţi sau ameninţări programate”, potrivit acuzaţiilor.
Cazul, intentat de moştenitorii lui Adams, se numără printre puţinele, însă tot mai numeroasele procese intentate împotriva companiilor de inteligenţă artificială pe baza acuzaţiilor că chatbot-urile acestora au încurajat suicidul. Acesta este primul caz care leagă un chatbot AI de o crimă, notează Reuters.
„Este o situaţie incredibil de dureroasă şi vom examina documentele pentru a înţelege detaliile”, a declarat un purtător de cuvânt al OpenAI.
„Continuăm să îmbunătăţim antrenarea ChatGPT pentru a recunoaşte şi a răspunde la semnele de probleme mintale sau emoţionale, a dezescalada conversaţiile şi a îndruma oamenii să caute sprijin în lumea reală”, a adăugat compania.
Purtătorii de cuvânt ai Microsoft – cel mai mare susţinător financiar OpenAI – nu au răspuns imediat la o solicitare de comentarii.
„Aceste companii trebuie să răspundă pentru deciziile lor, care mi-au schimbat familia pentru totdeauna”, a declarat fiul lui Soelberg, Erik Soelberg, într-un comunicat.
Conform plângerii, Stein-Erik Soelberg a postat în iunie pe reţelele sociale un videoclip cu o conversaţie în care ChatGPT i-a spus că are „cunoaştere divină” şi că a trezit conştiinţa chatbotului. În proces se menţionează că ChatGPT i-a comparat viaţa cu filmul „Matrix” şi i-a încurajat teoriile conform cărora oamenii încercau să-l omoare.
Soelberg a folosit GPT-4o, o versiune a ChatGPT care a fost criticată pentru că ar manifesta o atitudine servilă faţă de utilizatori.
În plângere se menţionează că ChatGPT i-a spus în iulie că becul imprimantei lui Adams lumina intermitent deoarece acesta era un dispozitiv de supraveghere utilizat împotriva lui. De asemenea, conform plângerii, chatbotul „a validat convingerea lui Stein-Erik că mama şi un prieten au încercat să-l otrăvească cu droguri psihedelice dispersate prin sistemele de ventilaţie ale maşinii”. El şi-a ucis mama la data de 3 august.
