OpenAI a anunțat că a interzis mai multe conturi ChatGPT suspectate de legături cu entități guvernamentale din China, după ce utilizatorii respectivi au solicitat propuneri pentru monitorizarea conversațiilor de pe rețelele sociale, transmite Reuters.
Urmărește cele mai noi producții video TechRider.ro
- articolul continuă mai jos -
Compania americană a menționat că aceste acțiuni încalcă politica sa de securitate națională și fac parte dintr-o serie de măsuri menite să prevină utilizarea abuzivă a inteligenței artificiale generative.
Potrivit celui mai recent raport public privind amenințările, OpenAI a identificat mai mulți utilizatori care au cerut chatbotului să elaboreze concepte de „ascultare” și monitorizare a rețelelor sociale. „Unii indivizi au solicitat modelelor noastre să ofere propuneri pentru instrumente de analiză a conversațiilor online, ceea ce contravine regulilor noastre de securitate națională”, a precizat compania.
Raportul subliniază riscurile tot mai mari legate de utilizarea inteligenței artificiale în activități de supraveghere și atacuri cibernetice, într-un context de competiție crescută între Statele Unite și China pentru influențarea dezvoltării și reglementării acestei tehnologii.
OpenAI a mai transmis că a interzis și mai multe conturi care foloseau limba chineză și care utilizau ChatGPT pentru a sprijini campanii de phishing și malware. Potrivit raportului, unele dintre aceste conturi au cerut chatbotului să analizeze automatizări suplimentare ce ar putea fi realizate prin intermediul platformei chineze DeepSeek.
Ambasada Chinei din Statele Unite nu a oferit un comentariu imediat cu privire la aceste informații.
Pe lângă activitățile asociate Chinei, OpenAI a precizat că a blocat și conturi legate de grupuri criminale vorbitoare de limbă rusă. Acestea ar fi încercat să folosească ChatGPT pentru dezvoltarea anumitor tipuri de malware. Compania a transmis că monitorizează constant astfel de activități pentru a limita riscul utilizării tehnologiei sale în scopuri malițioase.
„Am întrerupt și raportat peste 40 de rețele de la începutul programului nostru de raportare publică a amenințărilor, lansat în februarie anul trecut”, a anunțat OpenAI. „Nu am găsit dovezi privind tactici noi sau că modelele noastre ar fi oferit actorilor rău intenționați capabilități ofensive inedite.”
Raportul vine într-un moment în care OpenAI devine tot mai influentă în domeniul inteligenței artificiale. Compania, susținută de Microsoft, a depășit recent pragul de 800 de milioane de utilizatori săptămânali ai ChatGPT. În urma unei vânzări secundare de acțiuni, OpenAI a fost evaluată la aproximativ 500 de miliarde de dolari, devenind astfel cel mai valoros startup din lume.
Prin măsurile de securitate anunțate, OpenAI urmărește să demonstreze angajamentul față de utilizarea responsabilă a inteligenței artificiale și să limiteze posibilitatea ca modelele sale să fie exploatate pentru spionaj, atacuri informatice sau activități ilegale.
Compania a precizat că va continua să publice rapoarte privind amenințările pentru a spori transparența și pentru a sprijini colaborarea internațională în domeniul securității cibernetice.
