Pe fondul îngrijorărilor tot mai mari legate de impactul inteligenței artificiale asupra tinerilor, OpenAI a introdus în ChatGPT o funcție de „predicție a vârstei”, menită să ajute la identificarea minorilor și la aplicarea unor restricții adecvate de conținut în conversațiile acestora. anunță TechCrunch.
Urmărește cele mai noi producții video TechRider.ro
- articolul continuă mai jos -
În ultimii ani, OpenAI s-a aflat în centrul mai multor controverse privind siguranța copiilor. Au existat cazuri în care sinucideri ale unor adolescenți au fost asociate cu interacțiuni cu ChatGPT, iar compania a fost acuzată, alături de alți dezvoltatori de AI, că nu a limitat suficient accesul minorilor la discuții cu tematică sexuală sau violentă. De asemenea, în aprilie anul trecut, OpenAI a fost nevoită să remedieze o problemă tehnică ce permitea generarea de conținut erotic pentru utilizatori sub 18 ani.
Noua funcție de „predicție a vârstei” nu este o măsură izolată
Noua funcție de „predicție a vârstei” nu este o măsură izolată, ci se adaugă unui set mai larg de mecanisme de protecție deja existente. Potrivit OpenAI, sistemul folosește un algoritm de inteligență artificială care analizează mai mulți indicatori legați de comportamentul utilizatorilor și de caracteristicile contului pentru a identifica probabilitatea ca un cont să aparțină unui minor.
Printre criteriile luate în calcul se află vârsta declarată de utilizator, vechimea contului și intervalele orare în care acesta este activ cel mai des. În cazul în care sistemul concluzionează că un utilizator este sub 18 ani, ChatGPT aplică automat filtre de conținut mai stricte, care blochează discuțiile despre sex, violență și alte subiecte considerate sensibile pentru minori.
OpenAI precizează că există și o procedură de corectare a eventualelor erori. Dacă un utilizator adult este clasificat din greșeală ca fiind minor, acesta își poate confirma statutul printr-un proces de verificare a identității. Verificarea se face prin trimiterea unui selfie către Persona, partenerul OpenAI specializat în servicii de validare a identității.
