Više od 100 istraživača poziva na strože mjere zaštite visokorizičnih bioloških baza podataka kako bi se spriječila zloupotreba umjetne inteligencije, koja bi u određenim okolnostima mogla stvoriti smrtonosne patogene.
Modeli umjetne inteligencije (AI) koji se koriste u biologiji ovise o velikim količinama bioloških podataka, uključujući genetske sekvence i karakteristike patogena. No postavlja se pitanje: trebaju li ti podaci biti dostupni svima i kako osigurati njihovu odgovornu i legitimnu upotrebu?
Više od 100 istraživača upozorava da bi neograničen pristup određenim biološkim bazama podataka mogao omogućiti AI sustavima da pomognu u dizajniranju ili poboljšanju opasnih virusa, te pozivaju na snažnije mjere zaštite protiv zloupotrebe.
U otvorenom pismu, istraživači s vodećih institucija — uključujući Sveučilište Johns Hopkins, Sveučilište Oxford, Fordham University i Stanford — navode da je otvoreni pristup znanstvenim podacima ubrzao otkrića, ali da mali podskup novih bioloških podataka predstavlja ozbiljan biosigurnosni rizik ako se zloupotrijebi.
"Uloga upravljanja biološkim podacima izuzetno je važna jer bi r bi modeli umjetne inteligencije mogli pridonijeti stvaranju ozbiljnih bioloških prijetnji", napisali su autori.
Modeli umjetne inteligencije koji se koriste u biologiji mogu predviđati mutacije, prepoznavati obrasce i generirati prenosivije varijante pandemijskih patogena.
Autori to nazivaju "zabrinjavajućom sposobnošću" koja bi mogla ubrzati i pojednostaviti stvaranje prenosivih bioloških patogena koji mogu dovesti do pandemija kod ljudi, ali i sličnih događaja kod životinja, biljaka ili u okolišu.
Istraživači naglašavaju da bi biološki podaci općenito trebali biti javno dostupni, ali da "podaci o patogenima" zahtijevaju snažnije sigurnosne provjere, piše EuroNews.
Naš je fokus na definiranju i reguliranju najrizičnijih setova podataka prije nego što postanu široko dostupni programerima umjetne inteligencije, naveli su u radu, predlažući novi okvir za kontrolu pristupa.
"U vremenu u kojem otvoreni biološki modeli umjetne inteligencije nastaju diljem svijeta, ograničavanje pristupa osjetljivim podacima o patogenima isključivo legitimnim istraživačima moglo bi biti jedan od najučinkovitijih načina za smanjenje rizika", rekao je Moritz Hanke, koautor pisma sa Sveučilišta Johns Hopkins.
Što rade programeri?
Trenutačno ne postoji univerzalni okvir koji regulira ove baze podataka. Iako neki programeri dobrovoljno isključuju visokorizične podatke, istraživači smatraju da jasna i dosljedna pravila moraju vrijediti za sve.
Razvojni tim vodećih bioloških modela umjetne inteligencije, Evo, kojeg su stvorili istraživači Arc Instituta, Stanforda i TogetherAI-a, te ESM3, tvrtke EvolutionaryScale, uklonio je iz svojih trening baza uklonili određene virusne sekvence.
U veljači 2025. tim koji stoji iza EVO 2 modela objavio je da su iz svojih setova podataka isključili patogene koji inficiraju ljude i druge složene organizme zbog etičkih i sigurnosnih rizika, kao i zbog potrebe da "spriječe korištenje Evo modela u razvoju biološkog oružja".
EVO 2 je open source AI model za biologiju koji može predviđati učinke mutacija na DNA, dizajnirati nove genome i otkrivati obrasce genetskog koda.
"Trenutačno ne postoje stručne smjernice koje bi jasno odredile koji podaci predstavljaju stvaran rizik. Zbog toga neki vodeći razvojni programeri moraju sami procijeniti situaciju i dobrovoljno isključiti virusne podatke iz procesa treniranja", napisao je na LinkedInu Jassi Panu, autor studije i koautor pisma.
Različite vrste rizičnih podataka
Autori napominju da se predloženi okvir odnosi samo na mali dio bioloških baza.
Uvodi petoslojnu razinu biosigurnosnih podataka (BDL) za kategorizaciju podataka o patogenima, klasificirajući podatke prema razini „rizika“ na temelju njihovog potencijala da omoguće sustavima umjetne inteligencije da uče opće virusne obrasce i biološke prijetnje i životinjama i ljudima.
Kategorije uključuju:
BDL-0:
Uobičajeni biološki podaci. Nema ograničenja i trebaju biti slobodno dostupni.
BDL-1:
Osnovni "gradivni elementi" virusa, poput genetskih sekvenci. Ne zahtijevaju velike sigurnosne provjere, ali prijavu i pristup treba nadzirati.
BDL-2:
Podaci o svojstvima životinjskih virusa — npr. prelazak među vrstama ili preživljavanje izvan domaćina.
BDL-3:
Podaci o karakteristikama virusa koji inficiraju ljude, kao što su prenosivost, simptomi i otpornost na cjepivo.
BDL-4:
"Unaprijeđeni" ljudski virusi, poput mutacija virusa COVID-19 koje ga čine zaraznijim. Ova kategorija suočila bi se s najstrožim ograničenjima.
Kako osigurati siguran pristup?
Kako bi se zajamčio siguran pristup, autori pisma traže uvođenje specifičnih tehničkih alata koji bi omogućili pružateljima podataka provjeru legitimnih korisnika i praćenje potencijalnih zloupotreba.
Predloženi alati uključuju vodeni žig – ugrađivanje skrivenih, jedinstvenih identifikatora u baze podataka radi lakšeg otkrivanja curenja informacija, jasan trag o podrijetlu podataka i svim izmjenama, zapisnike revizije – bilježenje pristupa i promjena uz kriptografske potpise, te bihevioralnu biometriju – praćenje jedinstvenih obrazaca ponašanja korisnika.
Istraživači smatraju da će u budućnosti biti ključno pronaći ravnotežu između otvorenosti i nužnih sigurnosnih ograničenja za visokorizične podatke, posebno kako sustavi umjetne inteligencije postaju moćniji i dostupniji sve većem broju korisnika.
