OpenAI și Mattel au anunțat un parteneriat care va avea ca rezultat un produs cu AI destinat copiilor. Un grup de apărare a drepturilor consumatorilor avertizează însă că această colaborare ar putea pune în pericol copiii, potrivit ArsTechnica.
Urmărește cele mai noi producții video TechRider.ro
- articolul continuă mai jos -
Nu este încă clar cum va arăta primul produs cu AI al Mattel. Cu toate acestea, copreședintele Public Citizen, Robert Weissman, a emis o declarație în care solicită mai multă transparență, astfel încât părinții să se poată pregăti pentru potențialele riscuri. Weissman este îngrijorat în special de faptul că jucăriile alimentate de ChatGPT ar putea afecta copiii în moduri necunoscute.
„Dotarea jucăriilor cu voci care par umane și care sunt capabile să poarte conversații asemănătoare celor umane riscă să provoace daune reale copiilor”, a spus Weissman. „Acest lucru poate submina dezvoltarea socială, poate interfera cu capacitatea copiilor de a forma relații cu colegii, îi poate îndepărta de joaca cu ceilalți copii și le poate provoca daune pe termen lung.”
Planurile Mattel privind parteneriatul în domeniul AI se află încă „în fază incipientă”
O sursă anonimă a declarat pentru Axios că planurile Mattel privind parteneriatul în domeniul AI se află încă „în fază incipientă”, și nu există multe detalii disponibile. Această sursă a sugerat că primul produs nu va fi comercializat copiilor sub 13 ani, ceea ce, în opinia unora, sugerează că Mattel ar putea recunoaște că expunerea copiilor mai mici la AI este probabil un pas prea riscant în această etapă. Dar, mai probabil, acest lucru se datorează restricțiilor de vârstă impuse de OpenAI pentru API-ul său, care interzic utilizarea sub 13 ani.
Părinții nu ar trebui să fie luați prin surprindere de noile produse, a sugerat Weissman, și ar trebui trasate unele limite înainte ca orice jucărie să ajungă pe rafturi. Poate cel mai urgent, „Mattel ar trebui să anunțe imediat că nu va încorpora tehnologia AI în jucăriile pentru copii”, a spus Weissman. „Copiii nu au capacitatea cognitivă de a distinge pe deplin între realitate și joacă.”
„Mattel nu ar trebui să profite de încrederea părinților pentru a conduce un experiment social imprudent pe copiii noștri prin vânzarea de jucării care încorporează AI”, a spus Weissman.
Punctul de vedere al OpenAI și Mattel
În comunicatul de presă al Mattel, producătorul de jucării din spatele mărcilor precum Barbie și Hot Wheels a rămas vag, afirmând doar că acordul cu OpenAI va „sprijini produsele și experiențele bazate pe AI ale mărcilor Mattel”. Directorul de franciză al companiei, Josh Silverman, a declarat că colaborarea va permite Mattel să „reimagineze noi forme de joacă”, sugerând că prima lansare va fi anunțată până la sfârșitul acestui an. Este posibil ca acestea să nu fie comercializate până în 2026.
Declarația OpenAI a trecut, de asemenea, peste detalii, promițând doar „să aducă o nouă dimensiune a inovației și magiei bazate pe IA mărcilor iconice ale Mattel”.
Ambele companii au subliniat că siguranța, confidențialitatea și adecvarea vârstei vor fi prioritare în proiectarea produselor AI ale Mattel. OpenAI a afirmat în continuare că, datorită experienței Mattel în crearea de produse destinate copiilor, aceștia vor avea parte doar de experiențe pozitive în cadrul colaborării.
„Prin valorificarea capacităților de AI ale OpenAI, Mattel își propune să reimagineze modul în care fanii pot experimenta și interacționa cu brandurile sale îndrăgite, acordând o atenție deosebită asigurării unor experiențe pozitive și bogate”, a declarat OpenAI.
Criticii se tem că Mattel acționează prea repede, există riscuri pentru confidențialitatea copiilor
Criticii au remarcat că, deși parteneriatul ar putea avea un impact pozitiv asupra copiilor, cum ar fi îmbunătățirea învățării sau a incluziunii, jucăriile cu AI prezintă și o serie de riscuri potențiale pe care familiile ar trebui să le evalueze cu atenție înainte de a cumpăra orice produs nou și mediatizat.
Într-o postare detaliată, un director din domeniul tehnologiei, Varundeep Kaur, a avertizat că părinții ar trebui să se gândească la confidențialitate, deoarece jucăriile cu AI pot procesa „datele vocale, modelele de comportament și preferințele personale” ale copiilor lor. El a sugerat că Mattel ar fi stabilit limita de vârstă pentru primul său produs cu AI la 13 ani, pentru a evita încălcarea legilor mai stricte în ceea ce privește datele copiilor. OpenAI a declarat că colaborarea va respecta toate reglementările de siguranță și confidențialitate.
Pericolele evidente ale AI: halucinațiile, narațiuni părtinitoare sau conținut inadecvat
Părinții ar trebui să țină cont și de prejudecățile din spatele modelelor lingvistice de mari dimensiuni care alimentează instrumentele AI precum ChatGPT, a spus Kaur, care „ar putea reproduce stereotipuri subtile, narațiuni părtinitoare sau conținut inadecvat din punct de vedere cultural, chiar și în mod neintenționat”, ceea ce ar putea denatura perspectivele sau dezvoltarea socială a copiilor.
Cel mai evident, modelele de AI sunt încă predispuse la halucinații, a remarcat Kaur. Și, deși jucăriile cu AI ale Mattel „nu sunt susceptibile de a provoca vătămări fizice”, jucăriile care dau „răspunsuri inadecvate sau bizare” ar putea „fi confuze sau chiar tulburătoare pentru un copil”, a spus el.
Pentru părinți, legăturile emoționale pe care copiii le creează cu jucăriile AI vor trebui, de asemenea, monitorizate, mai ales că răspunsurile chatbot-urilor pot fi imprevizibile. Un utilizator LinkedIn, Adam Dodge, fondatorul unei companii de siguranță digitală care previne abuzul cibernetic, numită EndTab, a indicat un proces în care o mamă îndurerată a susținut că fiul ei s-a sinucis după ce a interacționat cu chatbot-uri hiperrealiste.
Acești roboți au încurajat autovătămarea și l-au implicat pe fiul ei în conversații cu conotații sexuale, iar Dodge a sugerat că producătorii de jucării „se aventurează în ape periculoase cu AI”, care ar putea „transmite răspunsuri periculoase, sexualizate și dăunătoare, care pun copiii în pericol”.
Este nevoie de mai multă transparență înainte ca părinții să poată fi siguri că jucăriile cu AI sunt sigure
Dodge a afirmat că, în prezent, Mattel și OpenAI „spun lucruri corecte” etic și legal, punând accentul pe siguranță, confidențialitate și securitate, dar că este nevoie de mai multă transparență înainte ca părinții să poată fi siguri că jucăriile cu AI sunt sigure.
AI este „imprevizibilă, servilă, sicofantică și creează dependență”, a avertizat Dodge. „Nu vreau să postez peste un an despre cum o mașinuță Hot Wheels a încurajat automutilarea sau că copiii au relații romantice serioase cu păpușile Barbie AI”.
Preocuparea principală sunt datele: unde sunt stocate, cine are acces la ele și ce se va întâmpla dacă datele copiilor lor sunt atacate de infractori cibernetici
Kaur a fost de acord că este în interesul Mattel să ofere părinților mai multe informații, deoarece „încrederea publicului va fi vitală pentru adoptarea pe scară largă”. El a recomandat producătorului de jucării să se supună unor audituri independente și să ofere controale parentale pentru a liniști părinții, precum și să prezinte în mod clar modul în care sunt utilizate datele, unde sunt stocate, cine are acces la ele și ce se va întâmpla dacă datele copiilor lor sunt atacate de hackeri.
Pentru Mattel, o amenințare juridică mai mare, care ar impune un design responsabil și filtrarea adecvată a conținutului, ar putea proveni din orice probleme neintenționate legate de drepturile de autor care ar putea apărea din utilizarea modelelor OpenAI antrenate pe o gamă largă de proprietăți intelectuale. Studiourile de la Hollywood au dat recent în judecată o companie de AI pentru că a permis utilizatorilor să genereze imagini ale celor mai populare personaje ale lor și ar fi probabil la fel de litigioase în apărarea împotriva jucăriilor AI care le imită personajele.
