Producătorul ChatGPT, OpenAI, a anunțat că va investi într-o startup axat pe blocarea actorilor rău intenționați de a crea arme biologice bazate pe inteligență artificială, informează Reuters.
Urmărește cele mai noi producții video TechRider.ro
- articolul continuă mai jos -
OpenAI este principalul investitor într-o rundă de finanțare inițială de 15 milioane de dolari pentru Red Queen Bio, care încearcă să se asigure că apărarea industriei AI crește cel puțin la fel de rapid ca și cei care caută să exploateze modelele pentru a face rău oamenilor, a declarat cofondatorul startup-ului, Hannu Rajaniemi.
Investiția face parte din efortul mai amplu al OpenAI de a investi în startup-uri care caută să limiteze riscurile prezentate de AI. Luna trecută, compania a susținut Valthos, un startup din New York specializat în software de biosecuritate. Jason Kwon, directorul de strategie al OpenAI, a declarat că OpenAI va lua în considerare investiții în alte startup-uri axate pe probleme similare.
„Vrem să creștem reziliența generală a ecosistemului”, a declarat Kwon într-un interviu. „Una dintre cele mai bune modalități de a reduce riscurile este utilizarea mai multor tehnologii”.
Cercetătorii și susținătorii siguranței spun că tehnologia IA ar putea accelera în curând dezvoltarea de medicamente sau proiectarea de noi vaccinuri. Dar aceleași capacități ar putea facilita dezvoltarea de arme biologice noi și puternice de către persoanele rău intenționate.
Red Queen Bio a fost desprinsă din Helix Nano, o companie de terapie cu ARNm în stadiu clinic, care a utilizat mai mult IA în proiectarea medicamentelor. Helix Nano a colaborat, de asemenea, cu OpenAI pentru a crea teste care să determine riscurile biologice ale IA, a declarat Kwon.
CEO-ul OpenAI, Sam Altman, și membrul consiliului de administrație, Nicole Seligman, care au investit anterior în Helix Nano, vor primi acțiuni în Red Queen Bio ca parte a tranzacției. Kwon a fost indirect investitor prin Y Combinator, un incubator de start-up-uri din Silicon Valley. Participația sa este evaluată la mai puțin de 2.500 de dolari, a precizat OpenAI.
Conducerea nu a participat la aprobarea investiției OpenAI în Red Queen Bio, a declarat un purtător de cuvânt al companiei. Directorul de conformitate al OpenAI și membrii fără conflicte de interese din consiliul de administrație al OpenAI au analizat și aprobat investiția.
Red Queen Bio se va baza pe modele de IA, precum și pe experimente de laborator mai tradiționale pentru a descoperi noi riscuri și a dezvolta noi mijloace de apărare. Numele startup-ului provine dintr-o scenă din cartea lui Lewis Carroll, Through the Looking-Glass.
„Era clar că capacitățile biologice avansau mai repede decât anticipasem”, a spus Rajaniemi. „Am simțit că trebuie să începem să dezvoltăm măsuri de apărare.”
Alți investitori în Red Queen Bio sunt Cerberus Ventures, Fifty Years și Halcyon Futures.
