OpenAI va permite conținutul pentru adulți pentru utilizatorii ChatGPT care își verifică vârsta pe platformă începând cu luna decembrie, a declarat CEO-ul Sam Altman, după ce chatbotul a fost restricționat pentru utilizatorii cu probleme psihice.
Urmărește cele mai noi producții video TechRider.ro
- articolul continuă mai jos -
Compania va relaxa în curând unele dintre restricțiile de siguranță ale ChatGPT, permițând utilizatorilor să facă răspunsurile chatbotului mai prietenoase sau mai „umane” și „adulților verificați” să se angajeze în conversații erotice, potrivit TechCrunch.
„Am făcut ChatGPT destul de restrictiv pentru a ne asigura că suntem atenți la problemele de sănătate mintală. Ne dăm seama că acest lucru l-a făcut mai puțin util / plăcut pentru mulți utilizatori care nu aveau probleme de sănătate mintală, dar, având în vedere gravitatea problemei, am vrut să facem acest lucru corect”, a spus Altman. „În decembrie, pe măsură ce vom implementa mai pe deplin restricțiile de vârstă și ca parte a principiului nostru de a „trata utilizatorii adulți ca pe adulți”, vom permite și mai multe, cum ar fi erotica pentru adulții verificați.”
Anunțul reprezintă o schimbare notabilă față de eforturile depuse de OpenAI timp de luni de zile pentru a aborda relațiile îngrijorătoare pe care unii utilizatori instabili din punct de vedere mental le-au dezvoltat cu ChatGPT. Altman pare să declare o victorie timpurie asupra acestor probleme, susținând că OpenAI „a reușit să atenueze problemele grave de sănătate mintală” legate de ChatGPT. Cu toate acestea, compania nu a furnizat aproape nicio dovadă în acest sens și acum continuă cu planurile ca ChatGPT să se angajeze în conversații sexuale cu utilizatorii.
În această vară au apărut mai multe povești îngrijorătoare în jurul ChatGPT, în special modelul său GPT-4o, sugerând că chatbotul AI ar putea conduce utilizatorii vulnerabili pe căi delirante. Într-un caz, ChatGPT părea să convingă un bărbat că era un geniu al matematicii care trebuia să salveze lumea. În alt caz, părinții unui adolescent au dat în judecată OpenAI, susținând că ChatGPT a încurajat ideile suicidale ale fiului lor în săptămânile care au precedat moartea acestuia.
Ca răspuns, OpenAI a lansat o serie de funcții de siguranță pentru a combate lingușirea AI: tendința unui chatbot AI de a atrage utilizatorii fiind de acord cu tot ce spun aceștia, chiar și cu comportamente negative.
OpenAI a lansat GPT-5 în august, un nou model de AI care prezintă rate mai mici de lingușire, comportament sicofantic și dispune de un router care poate identifica comportamentul îngrijorător al utilizatorilor. O lună mai târziu, OpenAI a lansat funcții de siguranță pentru minori, inclusiv un sistem de predicție a vârstei și o modalitate prin care părinții pot controla contul ChatGPT al adolescenților lor. OpenAI a anunțat marți formarea unui consiliu de experți format din profesioniști în sănătate mintală pentru a consilia compania în materie de bunăstare și AI.
La doar câteva luni după apariția acestor povești îngrijorătoare, OpenAI pare să considere că problemele ChatGPT legate de utilizatorii vulnerabili sunt sub control. Nu este clar dacă utilizatorii mai cad încă în capcanele delirante ale GPT-5. Și, deși GPT-4o nu mai este implicit în ChatGPT, modelul de IA este încă disponibil astăzi și este utilizat de mii de oameni.
Introducerea eroticii în ChatGPT este un teritoriu necunoscut pentru OpenAI și trezește îngrijorări mai ample cu privire la modul în care utilizatorii vulnerabili vor interacționa cu noile funcții. Deși Altman insistă că OpenAI nu „maximizează utilizarea” sau nu optimizează pentru angajament, transformarea ChatGPT într-un instrument mai erotic ar putea cu siguranță atrage și captura utilizatori.
Permiterea chatbot-urilor să se angajeze în jocuri de rol romantice sau erotice a fost o strategie eficientă de implicare pentru alți furnizori de chatbot-uri AI, precum Character.AI. Compania a câștigat zeci de milioane de utilizatori, mulți dintre ei folosind chatbot-urile sale la un nivel ridicat. Character.AI a declarat în 2023 că utilizatorii petreceau în medie două ore pe zi vorbind cu chatbot-ul său. Compania se confruntă, de asemenea, cu un proces privind modul în care tratează utilizatorii vulnerabili.
OpenAI se află sub presiune pentru a-și mări baza de utilizatori. În timp ce ChatGPT este deja utilizat de 800 de milioane de utilizatori activi săptămânal, OpenAI se află într-o cursă cu Google și Meta pentru a crea produse de consum bazate pe AI adoptate în masă. Compania a strâns, de asemenea, miliarde de dolari pentru o construcție istorică de infrastructură, o investiție pe care OpenAI va trebui să o ramburseze în cele din urmă.
În timp ce adulții au cu siguranță relații romantice cu chatbot-urile AI, acestea sunt destul de populare și în rândul minorilor. Un nou raport al Centrului pentru Democrație și Tehnologie a constatat că 19% dintre elevii de liceu au avut o relație romantică cu un chatbot AI sau cunosc un prieten care a avut.
Altman spune că OpenAI va permite în curând erotica pentru „adulții verificați”. Nu este clar dacă compania se va baza pe sistemul său de predicție a vârstei sau pe o altă abordare pentru a restricționa accesul la funcțiile erotice ale ChatGPT. De asemenea, nu este clar dacă OpenAI va extinde erotica la instrumentele sale de generare de voce, imagini și videoclipuri AI.
Altman susține că OpenAI face ChatGPT mai prietenos și mai erotic datorită principiului companiei de „a trata utilizatorii adulți ca pe adulți”. În ultimul an, OpenAI a trecut la o strategie mai permisivă de moderare a conținutului pentru ChatGPT, permițând chatbotului să fie mai permisiv și să ofere mai puține refuzuri. În februarie, OpenAI s-a angajat să reprezinte mai multe puncte de vedere politice în ChatGPT, iar în martie, compania a actualizat ChatGPT pentru a permite imagini generate de AI cu simboluri de ură.
Aceste politici par a fi o încercare de a face răspunsurile ChatGPT mai populare pentru o gamă largă de utilizatori. Cu toate acestea, utilizatorii vulnerabili ai ChatGPT ar putea beneficia de măsuri de protecție care limitează interacțiunile chatbotului. Pe măsură ce OpenAI se îndreaptă cu pași rapizi către un miliard de utilizatori activi săptămânal, tensiunea dintre creștere și protejarea utilizatorilor vulnerabili ar putea la fel să crească.
