În cursa tot mai strânsă dintre tehnologia de falsificare și sistemele de detectare, deepfake-urile (videoclipuri, imagini sau înregistrări audio create sau modificate cu ajutorul IA, astfel încât să pară autentice) tocmai au bifat o nouă victorie tulburătoare, acum pot simula un puls uman realist. Asta înseamnă că una dintre cele mai promițătoare metode de demascare a acestor falsuri, analiza variațiilor subtile de culoare în piele, cauzate de circulația sângelui, riscă să devină ineficientă, relatează TechXplore.
Studiul, realizat de cercetători de la Universitatea Humboldt din Berlin și publicat în Frontiers in Imaging, arată că tehnologia actuală de generare a deepfake-urilor este capabilă să reproducă bătăi ale inimii atât de convingătoare, încât un algoritm sofisticat le detectează ca fiind reale.
„Pentru prima dată demonstrăm că videoclipurile deepfake de înaltă calitate pot avea un puls realist și schimbări fine de culoare facială, ceea ce le face mult mai greu de identificat ca falsuri”, a declarat dr. Peter Eisert, autorul principal al studiului.
Dincolo de glume cu pisici
Deepfake-urile sunt generate prin rețele neuronale care pot manipula fețe, voci și gesturi – uneori pentru distracție (filtrele de pe rețelele sociale), dar tot mai des în scopuri periculoase: propagandă, șantaj, dezinformare politică sau înscenări judiciare.
Una dintre cele mai avansate metode de detectare a acestor falsuri se bazează pe o tehnologie medicală adaptată, fotopletismografia la distanță (rPPP), care folosește o cameră pentru a analiza modul în care lumina reflectată de piele se modifică în funcție de bătăile inimii. Asta permite estimarea pulsului unei persoane filmate, chiar și în absența unui contact fizic.
Până acum, se presupunea că deepfake-urile nu pot simula aceste micro-variații fiziologice. Însă cercetarea condusă de Eisert arată contrariul.
Pulsul care nu există, dar păcălește
Folosind un detector automat de puls din imagine video, echipa germană a analizat atât materiale reale, cât și videoclipuri falsificate generate cu metode recente de tip „face-swapping”. Surpriza: chiar și deepfake-urile prezentau semnale convingătoare de puls, deși nu fuseseră adăugate intenționat.
Cercetătorii au descoperit că aceste semnale provin, de fapt, din videoclipurile originale folosite ca sursă: variațiile naturale ale culorii pielii, determinate de circulația sângelui, sunt preluate involuntar odată cu mișcările faciale, replicând astfel un puls aparent autentic.
„Un atacator poate adăuga un puls în mod deliberat, dar acesta poate apărea și ca efect secundar, preluat din materialul de bază. Acest lucru complică enorm procesul de detecție”, a explicat Eisert.
Ultima redută, microcirculația
În ciuda acestei descoperiri neliniștitoare, cercetătorii cred că există încă o slăbiciune exploatabilă, deepfake-urile pot reproduce un puls global, dar nu și distribuția realistă a fluxului sanguin în diferite regiuni ale feței. Această „amprentă” fiziologică ar putea fi cheia noii generații de detectoare anti-deepfake.
„Am arătat că un puls realist poate fi reprodus, dar nu și variațiile fiziologice complexe ale circulației. Următorul pas este să ne concentrăm pe aceste detalii”, a concluzionat Eisert.
Pe măsură ce falsurile devin mai greu de demascat, societatea intră într-o zonă de risc. Dacă orice poate fi simulat perfect, cum mai distingem adevărul? Deepfake-urile cu puls sunt doar începutul. În viitor, s-ar putea să avem nevoie nu doar de detectoare mai bune, ci și de o cultură digitală în care încrederea se bazează pe verificare, nu pe aparență.
