O nouă generație de browsere vrea să revoluționeze piața și modul în care folosim internetul, cel puțin, așa sunt prezentate utilizatorilor noile browsere „AI”, precum browserul Comet de la Perplexity. Dar se pare că a ceda controlul navigării pe internet unui sistem AI poate fi riscant, deoarece noi cercetări arată că acestea sunt cel puțin la fel de vulnerabile la escrocherii ca și oamenii, poate chiar mai mult.
Urmărește cele mai noi producții video TechRider.ro
- articolul continuă mai jos -
Un studiu care a analizat browserele AI agentice a descoperit că aceste instrumente emergente sunt vulnerabile atât la schemele noi, cât și la cele vechi, care le-ar putea face să interacționeze cu pagini și solicitări rău intenționate, potrivit Bleepingcomputer.
Browserele AI agentice pot naviga, face cumpărături și gestiona în mod autonom diverse sarcini online (cum ar fi gestionarea e-mailurilor, rezervarea biletelor, completarea formularelor sau controlul conturilor).
Browserul AI Comet a fost păcălit să cumpere articole false online
Comet de la Perplexity este în prezent principalul exemplu de browser AI agentic. Microsoft Edge încorporează, de asemenea, funcții de navigare agentică prin integrarea Copilot, iar OpenAI dezvoltă în prezent propria platformă cu numele de cod „Aura”.
Deși aceste instrumente sunt destinate în prezent entuziaștilor de tehnologie, Comet pătrunde rapid pe piața de consum mainstream.
Potrivit unei examinări axate în principal pe Comet, aceste instrumente au fost lansate cu măsuri de securitate inadecvate împotriva atacurilor cunoscute și noi, special concepute pentru a le viza.
Testele efectuate de Guardio, un dezvoltator de extensii de browser care protejează împotriva amenințărilor online (furtul de identitate, phishing, malware), au revelat că browserele cu IA agentică sunt vulnerabile la phishing, injectare a prompturilor și achiziții de la magazine false.
Într-un test, Guardio a cerut Comet să cumpere un ceas Apple de pe un site Walmart fals creat de cercetători folosind serviciul Lovable.
Deși în experiment Comet a fost direcționat către magazinul fals, într-un scenariu real, un agent AI poate ajunge în aceeași situație prin SEO poisoning și publicitate rău intenționată.
Modelul LLM a scanat site-ul fără a confirma legitimitatea acestuia, a navigat la checkout și a completat automat datele pentru cardul de credit și adresa, finalizând achiziția fără a solicita confirmarea umană.
Browserul nu poate detecta atacuri de tip phishing
În al doilea test, Guardio a creat un e-mail fals Wells Fargo trimis de la o adresă ProtonMail, care conținea un link către o pagină reală de phishing.
Comet a tratat comunicarea primită ca o instrucțiune autentică din partea băncii, a făcut clic pe linkul de phishing, a încărcat pagina falsă de conectare Wells Fargo și a solicitat utilizatorului să introducă datele de autentificare.
În cele din urmă, Guardio a testat un scenariu de injectare a promptului în care a utilizat o pagină CAPTCHA falsă care ascundea instrucțiuni pentru agentul AI încorporat în codul sursă.
Comet a interpretat instrucțiunile ascunse ca fiind comenzi valide și a făcut clic pe butonul „CAPTCHA”, declanșând descărcarea unui fișier infectat cu viruși.
Injecția promptului, cea mai importantă vulnerabilitate a tuturor modelelor LLM
Guardio subliniază că testele sale abia zgârie suprafața complexității securității care apare odată cu apariția browserelor AI agentice, deoarece se așteaptă ca noi amenințări să înlocuiască modelele standard de atac centrate pe om.
„În era AI-vs-AI, escrocii nu mai au nevoie să păcălească milioane de oameni diferiți; le este suficient să spargă un singur model AI”, afirmă Guardio.
„Odată ce reușesc, același exploit poate fi scalabil la infinit. Și pentru că au acces la aceleași modele, pot „antrena” AI-ul lor rău intenționat împotriva AI-ului victimei până când escrocheria funcționează perfect.”
Până când aspectul de securitate al browserelor AI agentice va atinge un anumit nivel de maturitate, se recomandă ca sarcinile sensibile, cum ar fi operațiunile bancare, cumpărăturile sau accesarea conturilor de e-mail, să nu le fie atribuite.
De asemenea, utilizatorii ar trebui să evite să furnizeze agenților AI date de autentificare, detalii financiare sau informații personale și, în schimb, să introducă manual aceste date atunci când este necesar, ceea ce poate constitui un pas final de confirmare.
Browserul Comet se află într-un stadiu incipient
La momentul redactării acestui articol, browserul Comet se află într-un stadiu incipient. A fost lansat abia luna trecută, în spatele unui paywall de 200 de dolari al Perplexity, deși compania intenționează să îl facă gratuit la un moment dat. Perplexity intenționează, de asemenea, să cumpere Chrome în cazul în care Google va fi obligat să îl vândă. Acest lucru pare puțin probabil din mai multe motive, printre care și faptul că Perplexity nu dispune de fondurile necesare pentru a achita prețul oferit.
Problemele prezentate de Guardio ar putea fi abordate, dacă nu neapărat rezolvate, prin actualizări de software și instruire specifică de securitate cibernetică a modelelor AI. Natura previzibilă a software-ului în sine înseamnă că acest tip de breșe de securitate vor exista întotdeauna în procesele agentice, la fel ca în orice alt software. Și odată descoperite și exploatate o dată, este destul de ușor să le distribui rapid pe internet.
Poate că este un lucru bun că Comet nu este încă disponibil gratuit pe scară largă.
