Google a anunțat că va lansa chatbotul său de inteligență artificială, Gemini, pentru copiii sub 13 ani, o decizie care stârnește deja controverse majore. În timp ce lansarea va începe în această săptămână în Statele Unite și Canada, Australia urmează să primească acces mai târziu în cursul anului. Accesul la Gemini va fi disponibil doar prin intermediul conturilor Family Link, care permit părinților să controleze activitatea digitală a copiilor, potrivit The Conversation.
Totuși, extinderea accesului la un chatbot AI pentru copii vine cu riscuri semnificative. Experții avertizează că părinții, chiar și în condițiile unei interdicții asupra rețelelor sociale, vor continua să se confrunte cu un „joc de-a v-ați ascunselea” perpetuu în încercarea de a proteja copiii de tehnologiile emergente. Mulți consideră că o soluție ar fi introducerea urgentă a unei legislații clare privind responsabilitatea digitală a companiilor de tehnologie, după modelul Uniunii Europene sau al Regatului Unit.
Cum funcționează chatbotul Gemini pentru copii?
Prin conturile Family Link, părinții pot crea un profil pentru copil, oferind inclusiv numele și data nașterii acestuia, un detaliu care ridică probleme de confidențialitate. Deși Google susține că datele copiilor nu vor fi folosite pentru antrenarea sistemului AI, accesul la chatbot va fi activat implicit, ceea ce înseamnă că părinții trebuie să dezactiveze manual această funcție dacă nu doresc ca cei mici să o folosească.
Copiii vor putea cere răspunsuri în text sau imagini generate de sistem, dar Google admite că Gemini „poate face greșeli”. Având în vedere că chatboții pot inventa informații – fenomen cunoscut sub denumirea de „halucinații AI” – există riscul ca cei mici să fie induși în eroare atunci când folosesc chatbotul pentru teme sau întrebări educaționale. Evaluarea conținutului și verificarea din surse sigure devin astfel esențiale.
AI nu este Google Search, și asta complică lucrurile
Spre deosebire de motoarele de căutare, care oferă materiale originale pentru consultare (articole, știri, studii), instrumentele generative de inteligență artificială creează conținut nou, bazat pe modele detectate în datele de antrenament. De exemplu, dacă un copil cere sistemului să „deseneze o pisică”, acesta va genera o imagine pe baza elementelor tipice asociate unei pisici – mustăți, urechi ascuțite, coadă lungă.
Însă pentru copiii mici, distincția între un rezultat generat de AI și un material real, verificat, este dificil de înțeles. Cercetările arată că până și adulții pot fi păcăliți de astfel de instrumente, inclusiv avocați care au citat informații false produse de ChatGPT în instanță. Pentru un copil, riscul este cu atât mai mare.
Conținutul este cu adevărat potrivit pentru copii?
Google promite că Gemini vine cu filtre de siguranță menite să prevină generarea de conținut inadecvat sau periculos. Totuși, aceste filtre pot avea și efecte secundare nedorite. De exemplu, dacă un cuvânt precum „sâni” este blocat pentru a evita conținutul sexual, copilul ar putea fi împiedicat să acceseze informații educative despre pubertate și dezvoltare corporală.
Mai mult, mulți copii sunt deja extrem de abili în a ocoli restricțiile digitale. Protecțiile automate nu pot înlocui supravegherea și dialogul constant cu părinții, care trebuie să monitorizeze conținutul generat și să le explice copiilor cum funcționează sistemul și ce riscuri implică.
Ce pericole reale prezintă AI pentru copii?
Comisia eSafety din Australia a emis deja un avertisment privind pericolele potențiale ale chatboților AI, în special a celor care simulează relații personale. Astfel de instrumente pot transmite conținut dăunător, pot distorsiona realitatea sau pot oferi sfaturi periculoase. Riscul este cu atât mai mare pentru copiii mici, care nu au încă dezvoltate complet abilitățile de gândire critică sau de evaluare a intențiilor unei entități automate.
Cercetătorii au arătat că sistemele precum ChatGPT, Replika sau Tessa imită regulile nescrise ale comportamentului social – ceea ce le face să pară umane și de încredere. Pentru un copil, un chatbot politicos și empatic poate părea un prieten adevărat, iar acest lucru poate avea consecințe serioase dacă informațiile oferite sunt greșite sau dăunătoare.
Bătaia pe loc în fața valului tehnologic
Lansarea Gemini vine într-un context tensionat în Australia, unde copiii sub 16 ani nu vor mai avea voie să aibă conturi pe rețelele sociale începând cu decembrie 2025. Însă restricțiile nu acoperă și chatboturile de inteligență artificială, ceea ce înseamnă că părinții trebuie să fie cu un pas înainte pentru a naviga prin jungla noilor tehnologii.
Această situație scoate în evidență nevoia urgentă de a reactiva legislația privind responsabilitatea digitală, care este blocată în Parlamentul australian din noiembrie 2024. Europa și Regatul Unit au deja astfel de legi în vigoare din 2023. În lipsa unui cadru legal clar, părinții rămân singurii responsabili să-și protejeze copiii într-un mediu online din ce în ce mai complex și mai nesigur.
