Un studiu recent realizat de NewsGuard a scos la iveală o tendință îngrijorătoare, în care chatboturile AI occidentale răspândesc fără să vrea propaganda rusă, transmite Forbes. Rețeaua „Pravda”, cu sediul la Moscova, care a publicat 3,6 milioane de articole în 2024, inundă rezultatele căutărilor cu falsuri pro-Kremlin, determinând sistemele AI să regurgiteze relatări înșelătoare. Această rețea utilizează inteligența artificială pentru a amplifica influența Moscovei la o scară fără precedent.
Auditul a constatat că zece dintre cele mai importante chatboturi AI au repetat relatări false din Pravda în 33% din cazuri, șapte dintre acestea citând direct site-urile Pravda ca surse legitime.
„Cercetarea noastră sugerează că operațiunile de influență rusești își schimbă metodele către manipularea modelelor AI, mai degrabă decât către țintirea directă a cititorilor umani, și fac acest lucru pentru a atinge o scară mult mai mare”, a declarat Isis Blachez, analist la NewsGuard.
Această manipulare implică metoda „LLM grooming”, în care seturile de date utilizate pentru formarea modelelor AI sunt contaminate în mod deliberat cu dezinformare. Blachez a explicat: „LLM grooming se referă la manipularea intenționată a datelor din care modelele AI se antrenează, modificând în cele din urmă rezultatele acestora în scopul promovării unei perspective, în acest caz propaganda rusă”.
Implicațiile sunt semnificative, pe măsură ce instrumentele AI devin tot mai integrate în viața de zi cu zi. „În lipsa unor măsuri de protecție adecvate, companiile de inteligență artificială riscă să servească obiectivelor de dezinformare ale Kremlinului”, avertizează Blachez. Utilizatorii sunt sfătuiți să verifice informațiile generate de AI, în special pe subiecte sensibile, folosind instrumente precum NewsGuard’s Misinformation Fingerprints pentru a identifica sursele nesigure.
Blocarea domeniilor Pravda este insuficientă din cauza expansiunii constante a rețelei. „Simpla filtrare a site-urilor Pravda nu va rezolva problema în cauză, având în vedere că rețeaua este în continuă creștere”, a explicat Blachez. Ea subliniază că este urgentă adoptarea de către companiile de inteligență artificială a unor practici solide de verificare pentru a împiedica platformele lor să devină canale de dezinformare.
