Un oficial chinez a dezvăluit accidental, prin intermediul ChatGPT, o vastă operațiune de influență desfășurată la nivel global, menită să intimideze disidenți chinezi aflați în străinătate, inclusiv prin faptul că operatorii chinezi s-ar fi dat drept oficiali americani ai serviciului de imigrare, potrivit unui raport publicat recent de OpenAI, compania care dezvoltă ChatGPT.
Urmărește cele mai noi producții video TechRider.ro
- articolul continuă mai jos -
Potrivit OpenAI, oficialul chinez a folosit ChatGPT ca pe un jurnal digital pentru a documenta presupusa campanie secretă de suprimare. Într-un caz concret, operatorii chinezi s-ar fi dat drept oficiali ai imigrației americane pentru a avertiza un disident chinez stabilit în SUA că declarațiile sale publice ar fi încălcat legea. În altă situație, operatorii au încercat să folosească documente falsificate emise de o instanță dintr-un stat american pentru a obține suspendarea unui cont de social media al unui disident, informează CNN.
Unul dintre cele mai clare exemple de modul în care regimurile autoritare pot exploata instrumentele AI
Raportul oferă unul dintre cele mai clare exemple de modul în care regimurile autoritare pot exploata instrumentele AI pentru a documenta și organiza eforturile de cenzură. Operațiunea de influență a implicat sute de operatori chinezi și mii de conturi false pe diverse platforme de socializare, arată OpenAI.
Ben Nimmo, investigator principal la OpenAI, a declarat: „Așa arată represiunile transnaționale moderne ale Chinei. Nu este doar digital. Nu este doar trolling. Este industrializat. Este despre a lovi criticii Partidului Comunist Chinez peste tot, cu tot ce au, simultan”.
ChatGPT, folosit ca jurnal de operațiuni secrete
OpenAI arată că oficialul chinez a folosit ChatGPT pentru a urmări activitățile rețelei, în timp ce mare parte din conținutul distribuit a fost generat prin alte instrumente și propagat prin conturi și site-uri online. După descoperirea activității, OpenAI a interzis utilizatorul.
Investigatorii OpenAI au reușit să coreleze descrierile oficialului cu activități reale în mediul online și cu impactul acestora. Printre exemplele documentate, oficialul a descris un efort de a falsifica moartea unui disident chinez, creând un necrolog fals și fotografii cu o piatră funerară, postate online. Zvonurile false despre decesul disidentului au apărut în 2023, conform unui articol în limba chineză publicat de Voice of America.
Într-un alt caz, oficialul a cerut ChatGPT să elaboreze un plan în mai multe etape pentru a denigra viitorul prim-ministru japonez, Sanae Takaichi, inclusiv prin amplificarea online a nemulțumirii legate de tarifele americane asupra produselor japoneze. ChatGPT a refuzat să răspundă la solicitare, dar la sfârșitul lunii octombrie, după preluarea puterii de către Takaichi, au apărut hashtag-uri critice pe un forum japonez popular pentru artiști grafici, potrivit OpenAI.
Context geopolitic: AI și rivalitatea SUA-China
Raportul OpenAI apare într-un moment de intensă competiție între Statele Unite și China pentru supremația în domeniul inteligenței artificiale, cu implicații atât pe câmpul de luptă, cât și în mediul economic.
Pentagonul se află într-un impas cu o altă companie de AI, Anthropic, privind utilizarea modelului său. Secretarul american al Apărării, Pete Hegseth, a stabilit un termen CEO-ului Anthropic, Dario Amodei, pentru a elimina anumite restricții de siguranță ale modelului AI, altfel riscând pierderea unui contract major cu Pentagonul.
Michael Horowitz, fost oficial Pentagon responsabil cu tehnologiile emergente, a declarat pentru CNN că raportul „demonstrează clar modul în care China folosește activ instrumentele AI pentru a-și amplifica operațiunile de informare”.
Horowitz, actualmente profesor la Universitatea din Pennsylvania, a adăugat: „Competiția AI dintre SUA și China se intensifică. Această competiție nu are loc doar la nivelul frontierelor tehnologice, ci și în modul în care guvernul chinez planifică și implementează zi de zi supravegherea și operațiunile de informare.”
