Utilizatorii browserelor AI agentice trebuie să fie conștienți de numeroasele riscuri pe care le prezintă browserele agentice și să le limiteze utilizarea la activități nesensibile, evitând sarcinile care implică e-mailuri, informații financiare sau alte date private.
Urmărește cele mai noi producții video TechRider.ro
- articolul continuă mai jos -
Deși la fiecare actualizare sunt adăugate noi măsuri de securitate ca răspuns la atacurile cibernetice, aceste browsere nu au atins încă nivelul de maturitate necesar pentru a reduce riscul de atac la un nivel acceptabil pentru orice altceva în afară de navigarea obișnuită.
Un nou atac care falsifică AI Sidebar
O nouă metodă de atac ascunsă imită barele laterale ale browserelor AI pentru a păcăli utilizatorii să cadă victime ale escrocheriilor de phishing și preluării controlului asupra dispozitivelor, potrivit CyberInsider.
Firma de securitate cibernetică SquareX a demonstrat cum extensiile de browser rău intenționate pot imita interfețele barelor laterale AI pentru phishing și alte scopuri nefaste.
Metoda de atac, numită AI Sidebar Spoofing, a fost demonstrată împotriva browserului Comet de la Perplexity și a noului browser web ChatGPT Atlas al OpenAI. Cu toate acestea, SquareX susține că este vorba despre un defect sistemic — nu doar browserele AI, ci și Edge, Brave și Firefox sunt vulnerabile.
Barele laterale AI sunt ferestre de chat AI integrate în browserele web, afișate de obicei în partea laterală a ecranului, care procesează conținutul paginii curente sau efectuează acțiuni pe baza solicitărilor utilizatorului.
ChatGPT Atlas și Comet sunt browsere AI dedicate, dar aplicații precum Edge și Chrome integrează, de asemenea, asistenți AI alimentați de Copilot și Gemini. Firefox și Brave au, de asemenea, o bară laterală AI, dar utilizează chatboti de la alți furnizori, în loc să aibă propriul LLM.
Cercetătorii SquareX au arătat cum hackerii pot falsifica barele laterale AI din browsere, determinând utilizatorul vizat să instaleze o extensie de browser malițioasă. Extensia poate fi creată de la zero de către atacator și deghizată ca un instrument inofensiv sau poate fi o extensie legitimă care a fost compromisă și modificată.
Este de remarcat faptul că extensia rău intenționată necesită permisiuni obișnuite cerute de multe extensii populare.
Exploatarea încrederii în AI
Spre deosebire de injectarea promptului sau linkurile compromise, AI Sidebar Spoofing nu se bazează pe manipularea directă a AI. În schimb, exploatează încrederea utilizatorului în interfața browserului AI prin înlocuirea interfeței barei laterale, o formă de înșelăciune mult mai insidioasă.
Atacul începe cu instalarea de către utilizator, fără știrea acestuia, a unei extensii rău intenționate, fie că este vorba de una deghizată, compromisă sau achiziționată de atacatori după publicare. Odată instalată, extensia injectează în mod silențios JavaScript în filele browserului pentru a afișa o interfață falsă a barei laterale care imită vizual asistentul AI.
Când utilizatorul introduce o comandă, bara laterală pare să funcționeze normal, folosind un LLM care lucrează în fundal precum Gemini pentru a genera răspunsuri realiste. Dar când utilizatorii cer îndrumări pentru sarcini complexe, cum ar fi gestionarea criptomonedelor sau instalarea de software, bara laterală injectează etape rău intenționate în răspuns, manipulând efectiv utilizatorul pentru a se compromite. JavaScript-ul injectat poate afișa bara laterală compromisă pe fiecare site vizitat de utilizator.
Acest atac necesită doar permisiuni de bază pentru extensie, ceea ce face detectarea semnificativ mai dificilă.
Injectarea unui agent AI necorespunzător
Cercetătorii au creat trei scenarii de atac realiste în care un atacator ar putea utiliza AI Sidebar Spoofing pentru a fura criptomonede, a accesa serviciile Gmail și Google Drive ale unei ținte și a deturna un dispozitiv.
„Odată ce victima deschide o nouă filă a browserului, extensia poate injecta javascript în pagina web pentru a crea o bară laterală falsă care arată exact la fel ca bara laterală a browserului AI” potrivit SquareX.
„Deoarece nu există nicio diferență vizuală și de flux de lucru între bara laterală falsificată și cea reală a browserului AI, utilizatorul va crede probabil că interacționează cu bara laterală reală a browserului AI”, spun cercetătorii.
Atacurile reale ar putea utiliza mult mai multe „mesaje de declanșare”, împingând frecvent utilizatorii către o gamă largă de acțiuni riscante.
