Un studiu realizat de Deloitte pentru guvernul canadian, în valoare de aproape 1,6 milioane de dolari și dedicat sectorului sănătății, conține o serie de erori ce par a fi generate cu ajutorul inteligenței artificiale, , scrie Fortune.
Urmărește cele mai noi producții video TechRider.ro
- articolul continuă mai jos -
Canada este a doua țară din acest an care a căzut victimă deficiențelor de verificare a faptelor ale firmei de consultanță.
Erorile, descoperite într-o anchetă publicată de The Independent, un canal de știri canadian care acoperă provincia cea mai estică a țării, Newfoundland și Labrador, apar într-un raport de 526 de pagini care a fost publicat de guvernul provinciei în luna mai.
Raportul oferea recomandări Departamentului Sănătății și Serviciilor Comunitare al guvernului liberal de atunci cu privire la subiecte precum îngrijirea virtuală, stimulentele de retenție și impactul pandemiei de COVID-19 asupra lucrătorilor din domeniul sănătății, într-o perioadă în care sectorul sănătății din provincie se confruntă cu o penurie de personal medical și medical.
Raportul Deloitte conținea citate false, extrase din lucrări academice inventate pentru a trage concluzii pentru analize de rentabilitate, și cita cercetători reali pe baza unor lucrări la care aceștia nu lucraseră, a descoperit The Independent. Raportul includea chiar și lucrări fictive co-autorizate de cercetători care au declarat că nu au lucrat niciodată împreună.
„Deloitte Canada susține cu tărie recomandările prezentate în raportul nostru”, a declarat un purtător de cuvânt al Deloitte Canada într-o declarație pentru Fortune. „Revizuim raportul pentru a face câteva mici corecturi la citate, care nu afectează concluziile raportului. AI nu a fost utilizată pentru redactarea raportului; a fost utilizată în mod selectiv pentru a susține un număr mic de citate din cercetări.”
Raportul extins citează și un articol academic din Canadian Journal of Respiratory Therapy, care nu poate fi găsit încă în baza de date a revistei.
„Se pare că, dacă se ajung la astfel de concluzii, este posibil ca AI să fie utilizată intens pentru a genera rezultate”, a declarat Gail Tomblin Murphy, profesor adjunct la Facultatea de Asistență Medicală a Universității Dalhousie din Nova Scotia, pentru The Independent. Tomblin Murphy a fost citată de Deloitte într-un articol academic care „nu există”. Ea a adăugat că a lucrat doar cu trei dintre cei șase autori menționați în citarea falsă.
„Și cred cu siguranță că există multe provocări în acest sens. Trebuie să fim foarte atenți pentru a ne asigura că dovezile care stau la baza rapoartelor sunt cele mai bune dovezi, că sunt dovezi validate. Și că, în final, aceste rapoarte – nu doar pentru că costă guvernele și costă publicul – [sunt] exacte, bazate pe dovezi și utile pentru a avansa lucrurile.”
Guvernul canadian a cheltuit puțin sub 1,6 milioane de dolari canadieni ( puțin peste 1 milion de dolari americani) pentru raport, plătind în opt rate.
Tony Wakeham, liderul Partidului Conservator Progresist din provincie și noul premier al provinciei, a depus jurământul la sfârșitul lunii octombrie.
Dezvăluirea vine în urma știrii de luna trecută că Deloitte a folosit inteligența artificială într-un raport de 290.000 de dolari publicat în iulie pentru a ajuta guvernul australian să ia măsuri în domeniul asistenței sociale. Însă un cercetător a semnalat halucinații în studiul de 237 de pagini, care includea referințe la lucrări de cercetare academică inexistente și o citare fabricată dintr-o hotărâre a unei instanțe federale.
În studiul revizuit, care a fost încărcat în liniște pe site-ul web al guvernului australian, firma de consultanță a recunoscut că a utilizat sistemul de limbaj AI generativ, Azure OpenAI, pentru a ajuta la crearea raportului.
„Actualizările efectuate nu afectează în niciun fel conținutul, concluziile și recomandările raportului”, a scris Deloitte într-o secțiune a studiului actualizat.
Firma membră a Deloitte din Australia a fost obligată să plătească guvernului o rambursare parțială pentru raport. Nu au fost încă făcute publice informații cu privire la o eventuală rambursare pentru raportul Canadei.
