Un grup de cercetători de la Universitatea din Zürich a folosit în secret o rețea de boți alimentați de inteligență artificială pentru a testa capacitatea acestora de a influența opinii pe subredditul r/changemyview — un forum dedicat dezbaterilor și schimbului de perspective, care adună aproape 4 milioane de utilizatori. Scopul experimentului a fost de a vedea cât de eficient poate fi AI-ul în modelarea discursului public online, anunță LiveScience.
Folosind identități fictive și mesaje atent calibrate, boții au publicat peste 1.700 de comentarii în discuții despre subiecte sensibile, adoptând poziții controversate: un presupus bărbat violat care minimaliza trauma, un consilier pentru violență domestică care critica supraprotejarea femeilor și chiar un afro-american împotriva mișcării Black Lives Matter. Un alt bot analiza profilurile utilizatorilor pentru a adapta replicile în mod personalizat, crescând astfel șansele de a-i convinge.
Tactici de manipulare – identități false și mesaje personalizate
Rezultatele preliminare, evaluate printr-un sistem al platformei care permite oferirea de „recompense” pentru comentarii care reușesc să schimbe opinii, sugerează că mesajele generate de AI au fost de trei până la șase ori mai eficiente decât cele scrise de oameni.
Dezvăluirea experimentului a provocat reacții virulente. Moderatorii subredditului au condamnat ferm inițiativa, numind-o „greșită” și „neautorizată”, iar Reddit a anunțat că va da în judecată Universitatea din Zürich. Ben Lee, directorul juridic al Reddit, a declarat că cercetarea „încalcă atât normele academice, cât și drepturile fundamentale ale utilizatorilor”.
Reddit reacționează dur și promite acțiune legală
Universitatea a reacționat spunând că rezultatele studiului nu vor fi publicate, iar comisia sa de etică va înăspri pe viitor verificările, obligând cercetătorii să notifice comunitățile online înainte de a desfășura astfel de experimente.
În timp ce chestiunile legale sunt încă în curs, cazul ridică semne de întrebare grave despre influența tot mai mare a AI-ului asupra conversațiilor online și despre potențialul acestuia de a manipula opinia publică fără ca utilizatorii să-și dea seama.
