Coreea de Sud a adoptat ceea ce autoritățile descriu drept cel mai cuprinzător set de legi privind reglementarea inteligenței artificiale, un demers care ar putea deveni un model pentru alte state, dar care a generat deja critici atât din partea industriei tehnologice, cât și a organizațiilor societății civile.
Urmărește cele mai noi producții video TechRider.ro
- articolul continuă mai jos -
Noua Lege-cadru privind inteligența artificială a intrat în vigoare săptămâna trecută, pe fondul îngrijorărilor globale tot mai mari legate de conținutul generat artificial și de utilizarea sistemelor automatizate în procese decizionale sensibile, notează The Guardian.
Legislația impune furnizorilor de servicii de inteligență artificială obligația de a eticheta conținutul generat de IA. Rezultatele clar artificiale, precum ilustrațiile sau desenele animate, vor trebui să includă filigrane digitale invizibile, în timp ce deepfake-urile realiste vor necesita etichete vizibile.
Pentru așa-numita „inteligență artificială cu impact ridicat” — care include sisteme utilizate în domenii precum diagnosticul medical, recrutarea sau aprobarea creditelor — operatorii vor fi obligați să efectueze evaluări de risc și să documenteze modul în care sunt luate deciziile. În cazul în care decizia finală este luată de o persoană, sistemul ar putea fi exceptat de la această clasificare.
Modelele de inteligență artificială extrem de avansate vor necesita rapoarte de siguranță, însă pragul stabilit este atât de ridicat încât autoritățile sud-coreene recunosc că, în prezent, niciun model existent la nivel global nu îl îndeplinește.
Companiile care nu respectă noile reguli riscă amenzi de până la 30 de milioane de woni (aproximativ 15.000 de lire sterline). Guvernul a anunțat însă o perioadă de grație de cel puțin un an înainte de aplicarea sancțiunilor.
Autoritățile de la Seul susțin că legislația este prima de acest tip aplicată integral la nivel național și reprezintă un pilon al strategiei Coreei de Sud de a deveni una dintre cele trei mari puteri globale în domeniul inteligenței artificiale, alături de Statele Unite și China. Oficialii afirmă că 80–90% din prevederi sunt orientate spre sprijinirea industriei, nu spre restricționarea acesteia.
Cu toate acestea, legea a atras critici din direcții opuse. Startup-urile tehnologice avertizează că unele obligații sunt excesive și pot frâna inovația, în timp ce organizațiile societății civile consideră că măsurile de protecție pentru persoanele afectate de sistemele de inteligență artificială sunt insuficiente.
Contextul adoptării legislației este marcat de amploarea fenomenului deepfake în Coreea de Sud. Potrivit unui raport din 2023 al companiei americane Security Hero, țara reprezintă 53% din totalul victimelor pornografiei deepfake la nivel global. În august 2024, o investigație a scos la iveală existența unor rețele extinse de chat-uri pe Telegram care distribuiau imagini sexuale generate de inteligența artificială, cu femei și fete.
Totuși, originile legii sunt anterioare acestui scandal. Primul proiect de act normativ privind inteligența artificială a fost depus în parlament în iulie 2020, dar a fost blocat în mod repetat, inclusiv din cauza criticilor potrivit cărora favoriza interesele industriei în detrimentul protecției cetățenilor.
