O instanță din Amsterdam a admis joi cererea organizațiilor de protecție a victimelor și a interzis chatbot-ului Grok, dezvoltat de compania xAI a lui Elon Musk, să mai producă imagini nud non-consensuale sau materiale de abuz sexual asupra minorilor.
Urmărește cele mai noi producții video TechRider.ro
- articolul continuă mai jos -
Decizia vine pe fondul unei monitorizări stricte la nivel european privind siguranța inteligenței artificiale.
Compania xAI riscă penalități financiare severe în cazul neconformării. Judecătorul a stabilit daune de 100.000 de euro pentru fiecare zi de încălcare a hotărârii, pragul maxim al amenzilor fiind fixat la 10 milioane de euro.
Conform minutei ședinței, interdicția vizează orice funcționalitate care permite „dezbrăcarea parțială sau totală a persoanelor fără consimțământul lor explicit”, precum și generarea de conținut care, sub incidența legii olandeze, „se califică drept material de abuz sexual asupra copiilor”.
Incertitudini privind eficiența filtrelor xAI
Deși reprezentanții platformei X au susținut anterior că au implementat bariere tehnice, instanța a pus la îndoială rezultatele practice ale acestora.
„Rămânem angajați să facem din X o platformă sigură pentru toată lumea și continuăm să avem zero toleranță pentru orice formă de exploatare sexuală a copiilor, nuditate non-consensuală și conținut sexual nedorit”, declarau oficialii companiei în luna ianuarie, după ce Grok fusese utilizat pentru a genera aproximativ 3 milioane de imagini compromițătoare în doar 11 zile.
Totuși, magistratul olandez a subliniat că, deși xAI și X au raportat măsuri de combatere a fenomenului, nu există nicio certitudine că aceste intervenții sunt capabile să blocheze eficient generarea de „deepfakes”.
Impact transfrontalier și reglementări europene
Procesul a fost inițiat la sfârșitul lunii februarie de către Offlimits și Fonds Slachtofferhulp. Robbert Hoving, președintele Offlimits, a declarat pentru POLITICO faptul că „tehnologia nu poate fi niciodată un motiv pentru a face victime”, salutând decizia ca fiind un precedent necesar.
Deși hotărârea are aplicabilitate directă doar în Țările de Jos, experții avertizează că arhitectura tehnică a Grok nu permite întotdeauna identificarea precisă a rezidenței utilizatorilor, fapt ce ar putea forța o schimbare de algoritm la nivel global.
Această presiune juridică survine într-un moment critic pentru Elon Musk. Comisia Europeană desfășoară deja o investigație asupra platformei X, demarată la finalul lunii ianuarie, în timp ce Parlamentul European și statele membre accelerează amendarea normelor UE privind inteligența artificială.
Noile reglementări, care vizează interzicerea totală a aplicațiilor de „nudificare” prin AI, ar putea intra în vigoare până în vara anului 2026.
