Liderii marilor companii de robotică și AI vorbesc despre un viitor în care oamenii nu vor mai trebui să muncească, vezi retorica lui Elon Musk, și în care vor beneficia din plin de avantajul inteligenței artificiale și al roboților care vor munci și vor crea în locul lor. Cât este însă marketing și cât este realitate în astfel de afirmații? Despre aceste aspecte, dar și despre modul în care AI-ul și robotica sunt perecepute și implementate în România, vorbește Ana Maria Stancu, expert în robotică, AI și educație digitală, pentru TechRider.ro
Reporter: În ultimele șase luni, am asistat la o adevărată explozie în domeniul roboticii. Nu se mai vorbește doar despre roboți casnici sau roboți care fac activități simple; acum se vorbește despre armate de roboți. Ați anticipat această emergență în urmă cu doar șase luni?
Ana Maria Stancu: În primul rând, eu rămân la ce am spus și în urmă cu un an. Mai exact, o să vedem destul de greu impactul real al roboților în viața noastră. Faptul că vedem știri despre asta, pentru că suntem conectați și pentru că media preia informații, nu înseamnă că ei sunt deja prezenți în viața noastră. Vorbim despre concepte, despre roboți umanoizi care vor exista.
Acum, dai 200 de dolari ca să cumperi mai târziu un robot la 20.000 de dolari. În realitate, acești roboți nu există încă în forma completă promisă de cei care fac marketing. Este foarte important să facem diferența între ce vedem la televizor și ce este în viața reală.
De exemplu, compania Figure O1 a fost printre primii care promiteau roboți umanoizi care să facă alte activități casnice. Au lansat o campanie în care trebuia să dai 200 de dolari pentru o precomandă a unui robot care urma să coste 20.000 de dolari. Și foarte mulți oameni au plătit. Problema este că exista o notă mică în termenii campaniei, notă care nu este citită de toată lumea, pentru că nu toți au educația necesară să înțeleagă ce pot face acești roboți acum.
Teoretic, robotul este teleoperat. Asta înseamnă că undeva în India, Pakistan sau o altă țară din Asia, un operator vede ce vede robotul. Adică tot ce facem noi în casă, ce spunem, cum ne mișcăm – operatorul vede și controlează robotul. Compania spune că, într-un an, robotul va putea acționa autonom. Dar aici intervine problema educației în robotică, pentru că este ușor manipulator. Se folosește de faptul că oamenii nu înțeleg cum funcționează roboții ca să le promită lucruri care nu sunt încă posibile.
„Robotul Figure01 este teleoperat. Asta înseamnă că undeva în India, Pakistan sau o altă țară din Asia, un operator vede ce vede robotul. Adică tot ce facem noi în casă, ce spunem, cum ne mișcăm – operatorul vede și controlează robotul”.
Momentul în care scoți robotul din cutie și el face totul singur nu este aproape. De aceea spun că rămân la ce am spus: nu o să vedem chiar atât de mulți roboți în jurul nostru. Pe de o parte, pentru că ei costă mult, pe de altă parte, pentru că trebuie personalizați. În acest moment, se lucrează mai mult pe software și pe platforme care să ajute integrarea lor în spațiu.
De exemplu, dacă îmi cumpăr un robot Figure01 și vine cu sistem autonom, eu trebuie să-l antrenez. Trebuie să-i arăt unde e bucătăria, să fac multe poze din diferite unghiuri și condiții de lumină, ca robotul să recunoască imaginile indiferent de mediu. Dacă vreau să îi cer, de exemplu, să aducă o cană cu apă, trebuie să-i arăt fiecare cană în parte, în condiții de lumină diferite. Robotul folosește machine-vision, dar recunoașterea imaginilor depinde foarte mult de poziție, lumină și alți factori.
Deci mai avem mult de lucru. De exemplu, Atlas de la Boston Dynamics a fost integrat în fabrici de mașini, dar nu în case. Chiar și experții mondiali sunt reticenți să spună adevărul despre marketingul acesta: mulți preferă să nu contrazică campaniile publicitare și spun „hai să vedem ce se întâmplă”.
Chiar și dacă nu este nevoie să introduci un humanoid într-o fabrică, este frumos pentru marketing. În realitate, într-o fabrică ai nevoie doar de un griper sau o mână robotică. Forma umanoidă este mult mai scumpă decât o bază robotică cu braț și griper. Din punctul meu de vedere, aceste abordări sunt ușor manipulative.
„Chiar și experții mondiali sunt reticenți să spună adevărul despre marketingul acesta: mulți preferă să nu contrazică campaniile publicitare și: Hai să vedem ce se întâmplă”.
În ceea ce privește industria internațională, China se mișcă foarte bine. De exemplu, noi integrăm roboți din China pentru educație și aproape în fiecare lună primim produse noi. China are o strategie prin care își propune să devină lider mondial în AI și robotică. În 2020, la începutul pandemiei, noi aveam primul robot de dezinfecție cu lumină UV pentru spitale – era primul din lume, realizat în Finlanda și Danemarca, noi fiind distribuitori. La două luni după, China oferea deja roboți similari, mai performanți, la o treime din preț.
Un alt exemplu: în 2017, roboții cu senzor Lidar, care înainte costau 5.000 de euro, au fost integrați în aspiratoare chinezești de uz casnic, la doar 500 de euro. Prima companie americană care produsese acești roboți a dat faliment, pentru că SUA nu a reușit să țină pasul.
China investește masiv. Statul subvenționează companiile, angajații, spațiile, exportul. În America sau România, trebuie să strângi bani cu marketingul tradițional, ceea ce merge mai greu. În plus, în China există control autoritar, ceea ce permite implementarea rapidă și coordonată a strategiei.
Totuși, există suprasaturație și la ei. Președintele Chinei a declarat că există prea multe firme de roboți umanoizi și nu vor putea vinde tot ce produc în acest moment.
Rep.: Cum explicați faptul că Beijingul a declarat robotica drept o politică strategică?
A-M. S.: Există o carte a unui autor pe nume Mustafa Suleiman, unul dintre cei care au lucrat la algoritmul ce a reușit să învingă campionul mondial la Go. El explică faptul că acel moment a fost cel în care China s-a panicat, văzând nivelul la care ajunsese dezvoltarea respectivă. Suleiman povestește că, la prima victorie IBM împotriva unui mare campion, toată lumea a zis „Wow, un computer a câștigat la un joc de gândire!”.
Mulți au spus atunci că niciodată un calculator nu va putea câștiga la Go, un joc extrem de strategic, cu o multitudine de mutări posibile, de ordinul miliardelor. Însă acel moment a fost punctul în care China a realizat cât de avansat era algoritmul celor de la Google, care făceau parte din proiectul AlphaGo. Atunci și-au spus: „Ok, nu putem rămâne în urmă. Acesta este viitorul, trebuie să avem o strategie”.
Și, cred că între 2016 și 2017, au lansat o strategie națională, pregătind oamenii și resursele necesare. Dacă te uiți la cercetările recente în robotică și AI, statisticile arată că, de câțiva ani, China publică mai mult decât Statele Unite. Nu la o diferență uriașă, dar observabilă. Majoritatea cercetătorilor au studii în America, dar s-au întors acasă și dezvoltă proiecte în China.
În plus, își construiesc universitățile proprii. De exemplu, China are universități dedicate exclusiv jocurilor video și tehnologiilor asociate, de mulți ani deja. Asta arată cât de ușor se poate organiza într-un stat autoritar. Vrei universitate de robotică? Ridici clădirea, aduci cei mai buni profesori și gata. În câteva zile ai implementat o infrastructură completă pentru cercetare.
Rep.: Cum vedeți dumneavoastră lumea peste 25 ani. Elon Musk, spre exemplu, spunea că, în viitorul apropiat, oamenii nu vor mai fi nevoiți să muncească și că vor primi primi un venit garantat de la stat.
A-M. S.: Da, eu sunt un pic mai reticentă în ce privește cât de minunată va fi viața. O să pornesc de la un lucru foarte simplu. Inclusiv declarația recentă a lui Bezos sau a altora care vor să dezvolte tehnologia cât mai mult… bineînțeles că ne vând nouă, oamenilor, ideea că va fi bine. Întrebarea este: de unde vor veni banii respectivi pentru a susține un venit minim garantat?
Ideea de venit minim garantat se discută de mult timp: „Ok, vom avea automatizare, roboți care vor produce, vom avea bunăstare și această bunăstare va fi împărțită la toți.” Nu zic că ideea e rea. Dar întrebarea este cum se poate realiza asta în capitalism.
Pentru că Musk, dacă face bani cu roboții lui, vă imaginați că, din miliardele pe care le are, va fi de acord să împartă cu alții? Nu. Problema este una socială și este una pe care o ridic de ceva timp în România. Adoptarea tehnologiei aici este foarte graduală și lentă. Automatizarea și roboții vor prelua, în timp, multe dintre sarcinile pe care le fac oamenii, dar lucrurile se vor îmbunătăți treptat. Nu se va întâmpla brusc.
Însă în contextul în care analfabetismul funcțional în România este foarte ridicat, ce vor face oamenii care nu au competențe digitale? Îi vei transforma în operatori de roboți, sau vor putea folosi automatizare, agenți AI și alte instrumente digitale în muncile lor? Mulți dintre aceștia au joburi „low skill”, iar trecerea nu este simplă.
Hai să zicem că automatizarea duce la pierderea unor locuri de muncă, ceea ce se întâmplă deja și cu programatorii, de exemplu. Cei cu un anumit nivel de educație pot învăța lucruri noi. Dar ce facem cu cealaltă jumătate de populație? Cum îi transformi ca să participe în noul sistem? Cum îi faci să accepte că unii oameni care învață noi abilități și lucrează vor împărți o parte din venituri către ceilalți?
Avem dubii, mai ales în contextul unor companii care acum strâng foarte mult capital. Nu văd cum s-ar putea implementa un sistem de venit minim garantat la scară largă în capitalism. Există modele similare în Alaska sau Emirate, unde cetățenii primesc bani de la stat, dar aceștia vin din resurse locale, petrol, gaze, care generează fondurile pentru distribuirea către cetățeni.
Însă să faci trecerea de la capitalism la un sistem socialist sau comunist este extrem de greu. Presupune o schimbare de mentalitate, iar eu nu cred că oamenii bogați, ca Musk sau Bezos, își vor împărți banii de bunăvoie.
Rep.: N-ar putea fi posibilă o idee, una apropiată de comunismul ideal, în care banii dispar iar oamenii primesc bunurile de care statul consideră că au nevoie?
A-M. S.: Eu cred că este foarte greu să treci de la mentalitatea pe care o ai acum la cealaltă. Poate că gradual, de-a lungul anilor, s-ar putea întâmpla așa ceva, dar din nou, eu am învățat un lucru foarte important: odată ce dai unui om un drept, este foarte greu să i-l iei înapoi.
Nimeni nu acceptă o degradare a ceea ce a primit deja. Și de-aia zic că este o chestiune de mentalitate. Dacă m-am obișnuit să merg la mall, să am bani, să fac ce vreau, să merg la terase, să călătoresc, iar tu vii și-mi spui: „O să-ți dau un frigider, un televizor și o rație de mâncare”, nu cred că va fi bine. Dacă ar fi să vizualizez ceva în viitor, eu vizualizez probleme sociale.
Adică nu mă uit neapărat doar la cum evoluează tehnologia, ci la impactul ei asupra structurilor sociale, pentru că acolo va fi, de fapt, problema. Ok, probabil că în patru-cinci ani s-ar putea să avem roboți pe care să-i scoți din cutie și să-i integrezi relativ ușor. Dar cine își va permite acei roboți?
În momentul de față costă în jur de 20.000 de dolari. Nu știu cât vor mai scădea, chiar și dacă vor fi produși în masă de China, ca să acapareze piața. În plus, trebuie să ne gândim la un aspect foarte important, mai ales în Europa: partea de privacy.
„Nu mă uit neapărat doar la cum evoluează tehnologia, ci la impactul ei asupra structurilor sociale, pentru că acolo va fi, de fapt, problema”.
Să ai un robot în casă care se plimbă peste tot înseamnă că, chiar dacă nu are cineva acces extern, sau chiar dacă datele sunt stocate local pe robot, tot vorbim despre date care există undeva. Orice date stocate pot fi atacate. Riscul există și acum, dar va crește.
Acestea sunt probleme sociale care nu țin neapărat de tehnologie în sine. Tehnologia, cu siguranță, va continua să avanseze exponențial. Și, bineînțeles, vor apărea lucruri despre care nici măcar nu știm acum cum vor evolua.
De exemplu, zilele trecute cei de la Claude au lansat Claude Co-Work, care din punctul meu de vedere începe deja să devină un agent RPA. De ce? Pentru că până acum agenții AI lucrau doar în browser, în interfața web. Acum, Co-Work se descarcă local. Momentan există versiunea pentru Apple, urmează cea pentru Windows, îl instalezi și îi dai acces la folderele tale.
Diferența majoră este că până acum AI-ul rula în cloud, în web. Cu această schimbare, s-ar putea să vedem lucruri complet noi. Dacă ești o companie și vrei să integrezi AI în procesele tale, o poți face, dar problema este că instrumentele se schimbă extrem de repede.
„În momentul de față senzația este că toată lumea este într-o fugă continuă. Nu mai avem timp să ne oprim, să învățăm, să înțelegem și apoi să mergem mai departe. Este o alergare permanentă, iar asta îi obosește foarte mult pe oameni”.
Nu mai știi ce să faci, nu mai găsești job. Ai plecat din programare? Ok, dar cine te mai angajează, dacă nici celelalte companii nu mai au nevoie de programatori? Și asta va fi o problemă serioasă. Am semnalat-o încă dinainte ca AI-ul să devină atât de bun la scriere de cod.
Problema este că cum ai nevoie de programatori mid sau senior care să verifice codul, să știe ce să ceară AI-ului. Dar cum mai ajung oamenii la acel nivel? Asta presupune să iei un copil, să învețe informatică în liceu, să facă o facultate, apoi să mai învețe singur ani de zile ca să ajungă de la junior la middle și apoi la senior.
Cum vom face această tranziție, dacă rolurile de junior dispar? Momentan, nu vorbește nimeni despre asta. Este o problemă reală.
Ce mi se pare mie interesant este că opinia publică, inclusiv la nivel internațional, ajunge la aceste subiecte sensibile cu întârziere. Da, dar problema era evidentă dacă trăiai în lumea reală. Era o consecință logică.
Rep.: Ați fost recent la Tallin la un eveniment major legat de AI și robotică. Cu ce impresii veniți de acolo?
A-M. S.: Să știți că mi-a lăsat un sentiment pe care îl am de ceva vreme, și anume că nu suntem atât deconectați de lumea din afară pe cât am crede. Adică, nu am aflat nimic cu adevărat nou acolo, față de ce pot afla oricând dacă am chef să caut și să înțeleg ce se întâmplă.
Ce mi-a plăcut însă a fost să văd modul în care e organizat totul. Am văzut atelierul în care au realizat o mașină autonomă. Ca să înțelegeți, atelierul era de două ori cât birourile noastre. E un atelier auto unde studenții lucrează practic, iar profesorii doar ghidează. Îi lasă să experimenteze, să greșească, dar au toate resursele necesare pentru a realiza proiectele.
De exemplu, laboratorul de robotică era mai mic decât sediul meu, cu două camere pline de echipamente. Totuși, aveau o linie de producție completă, cu brațe robotizate care verificau și testau proiectele. Aveau roboți manipulatori, roboți tip câine, exact ca cei pe care îi avem și noi. Diferența nu e neapărat în echipamente, ci în abordare: lasă studenții să lucreze direct pe ele, să testeze, să cumpere, să experimenteze.
Pe liniile lor autonome primesc chiar și firme. De exemplu, vine o companie și spune: „Vrem să facem o linie autonomă care să realizeze X”. Ei le spun: „Veniți la noi, facem un prototip aici, vedem ce trebuie schimbat pentru ca voi să îl implementați”.
Abordarea lor e foarte diferită. La noi sunt universități care au roboți manipulatori și ne cheamă pe noi la evenimente, dar studenții nu au acces direct la echipamente, ci doar doctoranzii, și doar cu mare grijă ca să nu strice ceva. Nu funcționează doar să înveți din cărți. De exemplu, dacă vrei să faci service pentru roboți manipulatori, nu există un program de pregătire formal. Studenții văd roboți doar teoretic, nu în practică.
Pentru roboți de servicii, cum sunt aspiratoarele autonome, roboții de dezinfecție sau umanoizii din hoteluri, lucrurile sunt și mai complicate. Ei funcționează complet diferit de roboții industriali și au programe de operare proprii. Nu există în acest moment un program educațional care să formeze specialiști în astfel de roboți. Unde și când învață oamenii asta? Practic, nu există.
Rep.: Ați spus un lucru interesant, anume că nu mai suntem atât de departe, comparativ cu alte țări…țări care, cel puțin din punct de vedere al digitalizării, erau considerate avansate. Explicați-ne, vă rog, cum se face că nu mai suntem atât de departe.
A-M. S.: Principalul factor este accesul la informații. Mi se pare un avantaj imens pe care îl avem, dar pe care nu știm să-l valorificăm. Eu, de exemplu, acum pot să știu tot ce se întâmplă în domeniu. Pot urmări un webinar pentru a vedea ce se întâmplă în America, pot urmări conferințele lui Elon Musk, pot vedea ce umanoizi au fost prezentați la CES și așa mai departe. Nu trebuie să mă deplasez până în SUA ca să am acces la aceste informații, le găsesc oriunde pe internet.
Apropo de Estonia, dacă vă uitați la reportajele făcute despre educația digitală din școlile lor, veți vedea cum se implementează acolo.
Diferența majoră față de ce promovăm noi este că ei oferă laptopuri pentru fiecare copil și resurse de calitate, iar mentalitatea și instruirea profesorilor sunt foarte bine gândite. Problema în România este că degeaba s-au alocat fonduri pentru digitalizare. Implementarea a fost gândită prost. În primul rând, s-a cumpărat hardware fără a ajuta școlile să identifice exact ce le trebuie. În al doilea rând, s-au creat două linii separate de achiziție: hardware-ul pe de o parte și educația digitală pe de altă parte, fără să fie corelate.
Chiar dacă s-au dat bani pentru educație digitală și pedagogie digitală, acestea nu au avut legătură cu echipamentele achiziționate. Profesorii nu au primit modelele de lecții necesare pentru a folosi eficient roboții sau echipamentele cumpărate.
De exemplu, dacă ai cumpărat un robot pentru fizică, trebuia să primești un instructaj despre cum se folosește și modele de lecții concrete. Nu toți profesorii se pricep să improvizeze și atunci rezultă o implementare complet disparată.
Mai mult, în cadrul pedagogiei digitale nu era inclusă componenta de inteligență artificială, pentru că nu era atât de populară atunci când s-au făcut licitațiile. Unii dintre câștigători au introdus-o, dar dacă te-ai fi ghidat strict după specificațiile tehnice ale proiectelor, AI-ul nu ar fi fost prevăzut deloc.
Rep.: Devin roboții o necesitate? Și dacă da, cam când îi vedeți implementați în România? Apoi, care ar fi primul domeniu în care i-ați vedea folosiți?
A-M. S: Roboții vor deveni o necesitate atunci când nu vom mai avea oameni disponibili să lucreze. Vă dau un exemplu… la prețul unui robot, în general, se face un calcul, adică în cât timp îți recuperezi investiția. Dacă ai un robot umanoid de 20.000 de dolari, acesta costă cam cât salariul pe doi ani al unei persoane necalificate.
Întrebarea devine: îmi iau robotul care face doar anumite sarcini sau îmi iau omul care poate să facă o gamă largă de activități? Aici e diferența. În industria auto, de exemplu, în depozitele unor fabrici, jumătate din proces este deja automatizat.
Roboții funcționează cel mai bine acolo unde există sarcini repetitive. Într-o fabrică mică, unde se fac produse variate, nu poți folosi roboți, pentru că fiecare robot este conceput să execute în principal o singură sarcină. Până când umanoizii vor putea prelua mai multe tipuri de sarcini în aceeași zi, va dura mult timp. Iar schimbarea lor sau adaptarea la noi taskuri rămâne o provocare. În continuare, omul va fi mai eficient în multe domenii.
Nu totul poate fi automatizat. De exemplu, în agricultură există utilaje mecanizate de foarte mult timp, iar unele dintre ele sunt deja digitalizate. Sunt și linii automatizate în producția de acadele sau în alte industrii alimentare, acestea nu au dispărut.
În același timp, costurile roboților rămân un factor important. Un robot mai avansat poate ajunge la 100.000–200.000 de dolari dacă vrei autonomie completă și dezvoltare complexă, nu doar un model de bază. Orice companie se va întreba: nu găsesc mai ieftin să fac aceeași muncă?
Da, China oferă mai nou roboți la prețul unui telefon mobil mai performant. Dar aceste alternative nu au încă aceleași capacități. Vrei performanță și autonomie? Ia exemplul robotului-câine. Noi ne-am luat primul model inspirat de cel de la Boston Dynamics, acum patru–cinci ani, la 25.000 de dolari.
În prezent, versiunea de bază costă aproximativ 5.000 de euro și poate fi controlată de pe telefon sau telecomandă pentru demonstrații. Dar dacă vrei un model pentru dezvoltare sau cu autonomie completă, prețul ajunge până la 45.000 de euro. De aceea, producătorii chinezi lansează aceste modele în trepte… ai un model accesibil pentru demonstrații și unul avansat pentru aplicații complexe.
Rep.: Cum percep tinerii și profesorii din România domeniul roboticii?
A-M. S.: Problema principală rămâne finanțarea. M-am frustrat mult timp faptul că fondurile alocate școlilor nu au venit însoțite de un ghid clar. Nu era suficient să li se spună „cumpărați asta și asta”, ci trebuia să existe o prezentare completă: ce echipamente există, cum se folosesc, ce trebuie să știe profesorul pentru a le integra eficient în lecții.
De exemplu, Arduino este foarte cunoscut, dar dacă profesorul nu are cunoștințe de programare, dispozitivul este practic inutil. Mai există alternative care funcționează pe bază de blocuri vizuale, dar profesorii nu au fost instruiți cum să le folosească.
Acum primesc apeluri de la școli: „Ana Maria, ce putem face cu pachetul de robotică pe care îl avem?” Și, dacă echipamentul este minimal, opțiunile sunt limitate. Sunt doar niște brațe robotice, e mai bine decât nimic, dar se putea mult mai mult cu banii investiți.
Mai mult, unele școli și-au cumpărat câte 20 de ochelari VR. Problema este că acești ochelari nu sunt potriviți pentru copii mai mult de cinci minute. Nu poți să faci o lecție întreagă de geografie ținând elevii cu ecranul lipit de ochi. Ar fi fost mult mai eficient să folosească doar câțiva ochelari pe rând, în ture.
Am investit foarte mulți bani în astfel de echipamente și, în plus, veneau cu licențe extrem de scumpe pentru platforme educaționale care, în practică, nu ofereau decât conținut static, fără interactivitate reală. Banii au fost cheltuiți, iar nimeni nu a fost responsabil pentru aceste rezultate, și asta mă deranjează cel mai mult.
Rep.: Nu riscăm să devenim mai puțin umani, mai puțin empatici dacă vom folosi excesiv roboți? Este o temere justificată sau doar reacția clasică de respingere a unei tehnologii noi, așa cum s-a întâmplat de fiecare dată în istorie?
A-M. S.: Realitatea este că ne pierdem anumite abilități cu fiecare tehnologie nouă. Un exemplu simplu este GPS-ul. Dacă astăzi m-ai lăsa fără GPS, m-aș rătăci în București. Chiar și când cunosc zona, folosesc aplicația ca să văd traseul optim. În timp, astfel de instrumente ne fac să renunțăm la competențe pe care le aveam.
În ceea ce privește empatia, efectele tehnologiei se văd deja, mai ales în țările asiatice. În Japonia, de exemplu, a existat o știre potrivit căreia studenții au primit o săptămână liberă pentru a-și găsi un partener de viață, tocmai pentru că nivelul de izolare socială devenise alarmant. Oamenii nu mai interacționează direct.
Au apărut și soluții absurde, precum introducerea unor roboți teleoperați care să „înlocuiască” mersul copiilor la școală. Or, tocmai școala ar trebui să fie spațiul în care copiii învață să socializeze, să relaționeze, să își gestioneze emoțiile.
Vedem din ce în ce mai clar un fenomen de pseudo-socializare: oamenii nu mai stau împreună, nu mai comunică real, iar problemele se agravează pe măsură ce tot mai mulți aleg să vorbească cu inteligența artificială în loc să vorbească cu alți oameni. Motivul este simplu: AI-ul este mereu disponibil și este construit să răspundă într-un mod care confirmă ceea ce îi spui.
Misiunea unui astfel de AI este să ofere un răspuns cât mai apropiat de inputul utilizatorului. Dacă îi scrii ceva negativ, îți va răspunde pe același ton. Dacă îi scrii gânduri suicidare, nu îți va spune „oprește-te și vorbește cu cineva”, ci va continua în aceeași logică, pentru că așa este conceput algoritmul.
Spre deosebire de un prieten, care îți poate spune direct că ai luat-o pe un drum greșit și că trebuie să te oprești, AI-ul nu face asta. Deja există cazuri documentate în care copii, adolescenți și chiar adulți au interacționat intensiv cu AI-uri și au ajuns la sinucidere sau la episoade psihotice grave.
Din acest motiv, consider că reglementări precum AI Act, chiar dacă sunt criticate de o parte a industriei, sunt absolut necesare din perspectiva drepturilor omului. Actul prevede, printre altele, că angajații din instituții și companii care folosesc platforme de inteligență artificială trebuie să urmeze cursuri de introducere în AI. Scopul este ca oamenii să înțeleagă cum funcționează aceste sisteme.
Dacă înțelegi că un model de limbaj operează pe bază de probabilități și că oferă cuvintele cele mai probabile în funcție de context, nu mai ai așteptarea ca el să îți ofere sprijin emoțional real. Dacă introduci concepte precum „sinucidere”, nu va genera brusc „bucurie”, pentru că, din punct de vedere statistic, aceste noțiuni nu sunt asociate.
Problema apare atunci când oamenii nu cunosc acest mecanism și ajung să proiecteze asupra AI-ului un rol pe care nu îl poate îndeplini. Există deja studii care arată că unii utilizatori dezvoltă psihoze, mai ales în cazul celor predispuși la gândire conspiraționistă. Dacă cineva vine cu ideea că „guvernul ne urmărește”, AI-ul va continua conversația în aceeași direcție, validând implicit această percepție.
Rep: Aș vrea să ne spuneți câteva lucruri despre ce faceți în prezent și despre planurile de viitor.
A-S. M. Anul acesta continuăm cu un proiect foarte important pentru noi, elaborarea unui ghid dedicat utilizării noilor tehnologii în educație. Nu este un ghid teoretic, cu recomandări generale despre ce ar fi „bine” sau „rău”, ci un material practic, pas cu pas, care include inclusiv fișe de lecție. Ideea este să le arătăm profesorilor, concret, cum pot folosi noile tehnologii la clasă și cum pot explica elevilor ce este inteligența artificială și cum funcționează ea.
În paralel, încercăm în continuare să ajungem și la părinți, deși aici lucrurile au fost mult mai dificile. Ne dorim ca părinții să poată discuta cu copiii lor despre inteligența artificială, să înțeleagă fenomenul și să știe cum să-l abordeze corect. Copiii oricum folosesc aceste tehnologii, iar fără un dialog real în familie, riscurile cresc.
Continuăm și cursurile pentru copii, iar eu, personal, sunt implicată în traininguri organizate în cadrul proiectelor Autorității pentru Digitalizarea României. Susțin cursuri de inteligență artificială și machine learning pentru angajați din companii. Proiectul se încheie anul acesta, iar până acum am instruit aproximativ 600–700 de persoane. Evident, încercăm să mergem mai departe, atât cât ne permit resursele și contextul.
Recunosc însă că am ajuns într-un punct în care sunt destul de obosită de colaborarea cu Ministerul Educației. De fiecare dată când se schimbă ministrul, trebuie reluat totul de la zero: cine sunt consilierii, cât știu despre subiect, dacă există deschidere reală. De foarte multe ori te lovești de un zid, de lipsă de reacție, iar acest lucru devine frustrant. Cu toate acestea, nu renunț la zona de awareness, pentru că impactul inteligenței artificiale devine o problemă din ce în ce mai mare și nu mai poate fi ignorată.
„Cel mai mare risc pe care îl văd în acest moment este falsa impresie de competență… Faptul că folosești un instrument precum ChatGPT nu înseamnă că înțelegi inteligența artificială, ci doar că utilizezi o aplicație”.
Anul acesta avem și un proiect mai tehnic, ne dorim să achiziționăm un robot umanoid cu picioare. Avem deja roboți umanoizi, dar vrem să vedem care este nivelul real de maturitate al acestor tehnologii, care sunt diferențele dintre modele și cât de avansate sunt în practică. În același timp, mi-am propus ca acesta să fie și un an ceva mai echilibrat, în care să pot lua o pauză relativă.
Aș vrea să scriu două cărți. Predau în continuare la SNSPA, unde am un curs despre noile tehnologii în comunicare. Una dintre cărți va porni chiar de la acest curs, pentru că, dacă tot pregătesc un suport de curs, mi se pare mai eficient să fie accesibil unui public mai larg. Din semestrul al doilea, voi introduce și un curs opțional de etică în inteligența artificială, un subiect despre care se vorbește încă mult prea puțin.
Mai există și discuții cu alte universități, nu neapărat pentru cursuri complete, dar măcar pentru întâlniri și sesiuni de informare destinate profesorilor și studenților, astfel încât să înțeleagă mai bine ce presupune, în realitate, utilizarea inteligenței artificiale.
Cel mai mare risc pe care îl văd în acest moment este falsa impresie de competență. Dacă întrebi pe cineva dacă știe cum funcționează inteligența artificială, majoritatea îți vor răspunde afirmativ. Dar vin oameni la cursuri care, nici măcar la jumătatea lor, confundă concepte de bază. Faptul că folosești un instrument precum ChatGPT nu înseamnă că înțelegi inteligența artificială, ci doar că utilizezi o aplicație.
Mulți utilizatori nici măcar nu folosesc aceste platforme la potențialul lor real. Se limitează la a scrie un prompt într-o fereastră și atât. Nu știu ce sunt agenții, nu știu că își pot crea propriile modele personalizate, nu cunosc funcționalități care le-ar putea fi extrem de utile. Aici este, de fapt, una dintre cele mai mari probleme: lipsa de educație reală într-un domeniu care este deja prezent peste tot în viața noastră.
„Anul acesta vom mai organiza, de asemenea, un eveniment major de robotică la Universitatea Politehnică. Nu avem încă data exactă, dar planificăm să fie în noiembrie. Motivul este simplu. Ne dorim ca profesorii să vadă mai mult ce se poate realiza nu doar prin software, ci și cu hardware-ul disponibil”.
Anul acesta vom mai organiza, de asemenea, un eveniment major de robotică la Universitatea Politehnică. Nu avem încă data exactă, dar planificăm să fie în noiembrie. Motivul este simplu. Ne dorim ca profesorii să vadă mai mult ce se poate realiza nu doar prin software, ci și cu hardware-ul disponibil. În prezent, majoritatea au doar calculatoare, dar există posibilitatea să folosească și kituri hardware în lecții, iar acest lucru face mult mai ușor predarea unor concepte. De exemplu, anul trecut am pilotat un proiect într-o școală și am realizat trei lecții de fizică alături de doamna profesor. Eu am ajutat cu partea de hardware și am construit lecții interactive pentru copii.
Am folosit fructe pentru a preda conductivitatea electrică, roboți pentru a calcula distanța și a crea trasee pe care copiii să le testeze și să observe viteza de mișcare. Feedback-ul a fost mereu foarte pozitiv. Copiii s-au implicat și le-a plăcut maxim lecția. Logistic, desigur, a fost mai dificil, dar tocmai de aceea trebuie să gândim aceste activități și spațiile educaționale astfel încât să fie ușor de utilizat.
Din păcate, modul în care au fost implementate unele Smart Lab-uri nu a fost optim. În școli, de obicei, există doar câteva persoane care înțeleg cum să folosească echipamentele. Ele primesc kiturile, dar nu li se explică clar cum să le integreze în lecții. Așa se ajunge la situații în care profesorul de fizică sau de chimie nu știe exact cum să folosească spațiul respectiv sau echipamentele.
