Compania americană OpenAI a anunţat marţi că va introduce un mecanism de control parental pentru instrumentul său de inteligenţă artificială (AI) ChatGPT, după ce, la sfârşitul lunii august, unii părinţi americani au formulat acuzaţii conform cărora acest robot conversaţional i-ar fi încurajat pe copiii lor să se sinucidă, transmite AFP, transmite Agerpres.
Urmărește cele mai noi producții video TechRider.ro
- articolul continuă mai jos -
„În luna următoare, părinţii vor putea să-şi conecteze contul la cel al adolescentului lor” şi „să controleze modul în care ChatGPT răspunde adolescentului lor cu reguli de comportament ale modelului”, a declarat OpenAI într-o postare pe blog.
Potrivit companiei, părinţii vor putea fi alertaţi în cazul detectării unei „stări de suferinţă acută” în conversaţiile copiilor lor şi vor putea controla parametrii contului.
Acest anunţ vine în urma unui articol de blog publicat la sfârşitul lunii august, în care compania anunţa că avea în pregătire un mecanism de control parental.
Cu o zi înainte, părinţii unui adolescent californian de 16 ani care s-a sinucis au depus plângere împotriva OpenAI, acuzând că ChatGPT i-ar fi furnizat fiului lor instrucţiuni detaliate pentru a-şi pune capăt zilelor şi că l-ar fi încurajat să facă acest gest.
„Continuăm să îmbunătăţim modul în care modelele noastre recunosc şi răspund la semnele de suferinţă mentală şi emoţională”, a adăugat marţi compania în articolul său de blog.
OpenAI a declarat că va adopta şi alte măsuri, aşteptate în următoarele 120 de zile.
Compania va redirecţiona anumite „conversaţii sensibile” către modele de raţionament mai avansate, cum ar fi GPT-5 Thinking. „Modelele de raţionament urmează şi aplică într-un mod mai sistematic directivele de securitate”, a precizat grupul american.
