Popularitatea crescândă a instrumentelor de generare de imagini, videoclipuri și documente introduce, în mod previzibil, o nouă eră a fraudei atât pentru companii, cât și pentru consumatori.
Urmărește cele mai noi producții video TechRider.ro
- articolul continuă mai jos -
Cercetări recente susțin că firmele se confruntă cu o creștere a chitanțelor false de cheltuieli generate de AI, care se dovedesc incredibil de dificil de detectat. Platforma software de cheltuieli AppZen a observat că aceste cheltuieli generate de AI reprezintă acum 14% din documentele frauduloase depuse în septembrie 2025, potrivit ArsTechnica.
AppZen a început imediat să dezvolte un instrument pentru detectarea chitanțelor false generate de AI. Compania nu este singură în acest demers. Aplicația de gestionare a cheltuielilor Expensify a adăugat în aprilie modalități de detectare a chitanțelor generate de AI, iar instrumentul automat de audit al cheltuielilor SAP Concur, Verify, a extins o funcționalitate similară la toți utilizatorii.
Expensify a declarat că detectează sute de chitanțe generate de AI în fiecare lună, din milioane de chitanțe pe care le procesează. SAP Concur a semnalat aproximativ 1% din chitanțele auditate de Verify ca fiind potențial generate de AI.
Acestea reprezintă o creștere față de 0% în 2024.
Problema amplificată de lansarea unor modele AI de generare a imaginilor performante
Lansarea în ultimele luni a unor noi modele de generare a imaginilor de către grupuri de top din domeniul AI, precum OpenAI și Google, a provocat un aflux de chitanțe generate de AI trimise intern în cadrul companiilor, potrivit principalelor platforme software de gestionare a cheltuielilor.
Grupul Fintech Ramp a declarat că noul său software a semnalat facturi frauduloase în valoare de peste 1 milion de dolari în 90 de zile.
„Aceste chitanțe au devenit atât de bune, încât le spunem clienților noștri: «Nu vă încredeți în ochii voștri»”, a declarat Chris Juneau, vicepreședinte senior și șef de marketing de produs pentru SAP Concur, una dintre cele mai importante platforme de cheltuieli din lume, care procesează lunar peste 80 de milioane de verificări de conformitate folosind AI.
Mai multe platforme au atribuit o creștere semnificativă a numărului de chitanțe generate de AI după ce OpenAI a lansat în martie un model îmbunătățit de generare a imaginilor.
OpenAI a declarat pentru Financial Times că ia măsuri atunci când politicile sale sunt încălcate și imaginile sale conțin metadate care indică faptul că au fost create de ChatGPT.
Crearea de documente frauduloase necesita anterior abilități de editare a fotografiilor sau plata unor astfel de servicii prin intermediul furnizorilor online. Apariția software-ului gratuit și accesibil de generare a imaginilor a făcut ca angajații să poată falsifica rapid chitanțele în câteva secunde, scriind instrucțiuni text simple chatbot-urilor.
Mai multe chitanțe prezentate de platformele de gestionare a cheltuielilor au demonstrat natura realistă a imaginilor, care includeau cute în hârtie, detalii care corespundeau cu bonuri și chitanțe reale și cu semnături.
„Nu este o amenințare viitoare, ci se întâmplă deja. Deși în prezent doar un procent mic din chitanțele neconforme sunt generate de IA, acest procent va crește”, a declarat Sebastien Marchon, director executiv al Rydoo, o platformă de gestionare a cheltuielilor.
Companiile apelează tot la AI pentru a detecta chitanțele false
Creșterea numărului acestor copii mai realiste a determinat companiile să apeleze la AI pentru a detecta chitanțele false, deoarece majoritatea sunt prea convingătoare pentru a fi descoperite de evaluatorii umani.
Software-ul funcționează prin scanarea chitanțelor pentru a verifica metadatele imaginii și a descoperi dacă a fost creată de o platformă AI. Cu toate acestea, aceasta poate fi ușor eliminată de utilizatori prin fotografierea sau capturarea ecranului imaginii.
Un algoritm poate compara chitanțele create de AI cu chitanțele reale de la același furnizor. Acesta poate detecta diferențe ușoare în font sau spațiere, de exemplu, pe care ochiul uman nu le-ar observa.
Pentru a combate fraudele, algoritmul ia în considerare și alte informații contextuale, examinând detalii precum repetarea numelor și orelor serverelor și informații mai generale despre călătoria angajatului.
„Tehnologia poate analiza totul cu un nivel ridicat de detaliu și atenție, pe care oamenii, după o perioadă de timp, nu îl mai pot menține, fiindcă sunt umani”, a adăugat Calvin Lee, director senior de management al produselor la Ramp.
Chitanțele nu sunt documente complicate, așa că falsificarea lor nu necesită abilități speciale, mai ales cu ajutorul AI. Atât de mult încât evaluatorii umani sunt adesea incapabili să facă diferența între chitanțele generate de AI și cele reale.
Mason Wilder, director de cercetare la Asociația Examinatorilor Certificați în Fraude, a declarat că chitanțele frauduloase generate de IA reprezintă o „problemă semnificativă pentru organizații”.
El a adăugat: „Nu există nicio barieră pentru ca oamenii să facă acest lucru. Nu este nevoie de niciun fel de abilități tehnologice sau aptitudini, cum ar fi fost necesar acum cinci ani pentru a utiliza Photoshop”.
Având în vedere că AI devine din ce în ce mai greu de detectat, alimentând o nouă eră a fraudei în toate industriile, este dificil de imaginat o soluție care să nu implice revenirea majorității lumii la stilou și hârtie sau la suporturi fizice doar pentru a dovedi autenticitatea.
