Google a eliminat unele dintre rezumatele sale generate de inteligența artificială în domeniul sănătății după ce o anchetă The Guardian a descoperit că oamenii erau expuși riscului de a suferi prejudicii din cauza informațiilor false și înșelătoare.
Urmărește cele mai noi producții video TechRider.ro
- articolul continuă mai jos -
Compania a precizat că rezumatele sale generate de IA, care utilizează AI generativă pentru a oferi instantanee cu informații esențiale despre un subiect sau o întrebare, sunt „utile” și „fiabile”.
Însă unele dintre rezumate, care apar în partea de sus a rezultatelor căutării, ofereau informații inexacte despre sănătate, punând utilizatorii în pericol.
Într-un caz descris de experți ca „periculos” și „alarmant”, Google a furnizat informații false despre teste cruciale ale funcției hepatice, care ar putea determina persoanele cu boli hepatice grave să creadă în mod eronat că sunt sănătoase.
Tastând „care este intervalul normal pentru testele de sânge ale ficatului”, au apărut o mulțime de cifre, puțin context și fără a se ține cont de naționalitatea, sexul, etnia sau vârsta pacienților, a constatat The Guardian.
Ceea ce AI Overviews de la Google a considerat normal poate diferi drastic de ceea ce era considerat normal în realitate, au spus experții. Rezumatele ar putea determina pacienții grav bolnavi să creadă în mod eronat că au un rezultat normal al testelor și să nu se mai prezinte la consultările medicale de urmărire.
După anchetă, compania a eliminat AI Overviews pentru termenii de căutare „care este intervalul normal pentru testele de sânge ale ficatului” și „care este intervalul normal pentru testele funcționale ale ficatului”.
„Nu comentăm eliminările individuale din cadrul Search. În cazurile în care AI Overviews omite anumite contexte, lucrăm pentru a aduce îmbunătățiri generale și, de asemenea, luăm măsuri în conformitate cu politicile noastre, acolo unde este cazul”, a afirmat un purtător de cuvânt al Google.
