Săptămâna aceasta, Google a lansat un program de recompense pentru vulnerabilități AI dedicat cercetătorilor în domeniul securității care găsesc și raportează defecte în sistemele AI ale companiei.
Urmărește cele mai noi producții video TechRider.ro
- articolul continuă mai jos -
Noul program de recompense pentru bug-uri se concentrează pe cele mai importante probleme din produsele AI de profil înalt, inclusiv, dar fără a se limita la Google Search (pe google.com), Gemini Apps (Web, Android și iOS) și aplicațiile de bază Google Workspace (de exemplu, Gmail, Drive, Meet, Calendar și altele), potrivit The Verge.
Alte produse incluse în program sunt funcțiile AI din produsele Google AI de înaltă sensibilitate, precum AI Studio și Jules, precum și aplicațiile non-core Google Workspace și alte integrări AI în produsele Google.
Lista Google cu bug-uri eligibile include exemple de acțiuni necorespunzătoare pe care le caută, cum ar fi injectarea indirectă a unui prompt AI care determină Google Home să deblocheze o ușă sau injectarea unui prompt de exfiltrare a datelor care rezumă toate e-mailurile unei persoane și trimite rezumatul către contul propriu al atacatorului.
Noul program clarifică ce constituie o eroare AI, clasificându-le ca probleme care utilizează un model lingvistic de mari dimensiuni sau un sistem AI generativ pentru a provoca daune sau a profita de o breșă de securitate, cu acțiuni necorespunzătoare în fruntea listei. Aceasta include modificarea contului sau a datelor unei persoane pentru a-i compromite securitatea sau a face ceva nedorit, cum ar fi o eroare expusă anterior care putea deschide obloanele inteligente și stinge luminile folosind un eveniment Google Calendar compromis.
Recompensele pentru vulnerabilități pot ajunge până la 30.000 de dolari pentru rapoarte individuale de calitate cu multiplicatori de bonus pentru noutate, în timp ce un raport standard privind defectele de securitate care detaliază bug-urile de securitate care ar putea declanșa acțiuni neautorizate într-un produs emblematic vine cu o recompensă maximă de până la 20.000 de dolari.
Cercetătorii pot primi, de asemenea, o recompensă de 15.000 de dolari pentru bug-uri de exfiltrare a datelor sensibile și până la 5.000 de dolari pentru probleme legate de activarea phishing-ului și furtul de modele.
„În octombrie 2023, am anunțat criteriile de recompensare ale Google pentru raportarea erorilor din produsele AI, extinzând Programul de recompense pentru vulnerabilități abuzive (VRP) pentru a încuraja descoperirea și raportarea de către terți a problemelor și vulnerabilităților specifice sistemelor noastre AI”, a declarat Google.
„ Pe măsură ce sărbătorim al doilea an de recompense pentru bug-uri AI la Google, suntem încântați să discutăm despre ceea ce am învățat și să anunțăm lansarea noului nostru program dedicat de recompense pentru vulnerabilități AI!
Nu este suficient să faci Gemini să halucineze. Compania spune că problemele legate de conținutul produs de produsele AI, cum ar fi generarea de discursuri de ură sau conținut care încalcă drepturile de autor, ar trebui raportate canalului de feedback din cadrul produsului însuși. Potrivit Google, în acest fel, echipele sale de siguranță AI pot „diagnostica comportamentul modelului și implementa instruirea necesară pe termen lung, la nivel de model, în materie de siguranță”.
Împreună cu noul program de recompense AI, Google a anunțat luni și un agent AI care repară codul vulnerabil, numit CodeMender. Compania afirmă că l-a utilizat pentru a repara „72 de remedieri de securitate pentru proiecte open source” după verificarea de către un cercetător uman.
În martie, compania a anunțat, de asemenea, că a acordat aproape 12 milioane de dolari în recompense pentru bug-uri către 660 de cercetători care au descoperit și raportat bug-uri de securitate prin intermediul Programului de recompense pentru vulnerabilități (VRP) al companiei în 2024.
Google a acordat 65 de milioane de dolari în recompense pentru bug-uri de la lansarea primului său program de recompense pentru vulnerabilități în 2010, cea mai mare recompensă plătită anul trecut depășind 110.000 de dolari.
Cu un an înainte, în 2023, gigantul în domeniul căutării a plătit, de asemenea, 10 milioane de dolari către 632 de cercetători pentru raportarea responsabilă a defectelor de securitate din produsele și serviciile sale.
