|
| 11. Oct, 2025 |
  |
Digitalna Pandorina kutija
Novo istraživanje tvrtke Microsoft pokazalo je da umjetna inteligencija može lako dizajnirati biološke prijetnje koje izbjegavaju sigurnosne sustave osmišljene da ih zaustave. Istraživanje, objavljeno u prestižnom časopisu Science, otkriva ključnu ranjivost u globalnoj biosigurnosnoj infrastrukturi, pokazujući da genetski nizovi opasnih toksina koje stvara umjetna inteligencija mogu proći kroz komercijalni softver za provjeru bez otkrivanja.
Microsoftov tim primijenio je pristup "crvenih očiju", razmišljajući poput hakera, kako bi pronašao ranjivosti. Meta je bio softver za biosigurnost koji koriste tvrtke koje stvaraju prilagođene DNK nizove za legitimne istraživače. Softver djeluje kao digitalni stražar, provjeravajući svaki zahtjev za nizove koji nalikuju poznatim opasnim tvarima poput ricina ili antraksa. Ključna mana, otkrili su istraživači, jest da sustav štiti samo od poznatih prijetnji, što je fatalna slabost u usporedbi s umjetnom inteligencijom, koja može stvoriti nove.
Koristeći javno dostupne AI programe osmišljene za stvaranje novih proteinskih struktura, istraživači su digitalno dizajnirali više od 76 000 varijanti poznatih proteina otrova. Nisu fizički izgradili tvari, već su dizajnirali njihove genetske nacrte. Cilj je bio vidjeti može li umjetna inteligencija "prepisati" genetski kod otrova, mijenjajući njegovu strukturu dovoljno da zaobiđe digitalno otkrivanje, a da pritom zadrži njegovu smrtonosnu funkciju. Rezultat je bio briljantan za simulirane napadače. Značajan broj ovih umjetno dizajniranih sekvenci prošao je kroz četiri različita programa provjere bez upozorenja.
Nakon što su otkrili ovu opasnu ranjivost, Microsoftov tim surađivao je s dobavljačima softvera kako bi razvio i implementirao zakrpu. To je uključivalo ažuriranje baza podataka i poboljšanje algoritama za podudaranje. U kasnijem testu, poboljšani alati za provjeru uspješno su identificirali 97 posto najopasnijih sekvenci koje je stvorila umjetna inteligencija. Iako je ovo poboljšanje značajno, nije trajno rješenje. Činjenica da 3 posto potencijalno katastrofalnih dizajna još uvijek ostaje neotkriveno pokazuje koliko je teško stvoriti savršen digitalni štit.
Umjetna inteligencija i CRISPR: Opasna kombinacija
Snaga današnje umjetne inteligencije je njezina sposobnost pisanja i manipuliranja kodom koji savršeno odgovara genetskom kodu života. U kombinaciji s tehnologijama uređivanja gena poput CRISPR-a, umjetna inteligencija može modelirati i predvidjeti kako bi novi biološki entiteti funkcionirali u ljudskom tijelu. Ova kombinacija stvara savršenu oluju, snižavajući tehničke barijere za stvaranje složenog biološkog oružja i stavljajući razornu moć u ruke manjih, vještijih aktera.
Napredak umjetne inteligencije dosegao je razinu na kojoj ga je gotovo nemoguće zaustaviti. Ova stvarnost zahtijeva veću iskrenost i spremnost vlada. Rizici se moraju javno priznati i planirati, a ne umanjivati ili ignorirati. Izvršna vlast mora prijeći sa simboličnih gesti na konkretne, provedive mjere za kontrolu i praćenje zlouporabe ovih tehnologija dvojne namjene.
Neki sigurnosni stručnjaci tvrde da je fokusiranje isključivo na komercijalnu sintezu DNK kao prvu liniju obrane strateška pogreška. Ističu da će uvijek postojati načini za prikrivanje sekvenci ili da će zlonamjerni akteri jednog dana proizvoditi DNK kod kuće i tako izbjeći komercijalne sustave probira. Stoga se biosigurnost mora izravno ugraditi u sustave umjetne inteligencije, s unutarnjim kontrolama nad onim što mogu stvoriti, što donosi vlastite tehničke i etičke izazove.
Nezaustavljiv teretni vlak
Mnogi stručnjaci vjeruju da se natječu s neumoljivom silom. Umjetna inteligencija je poput teretnog vlaka koji ubrzava dok društveni i regulatorni okviri zaostaju, i to opasno. Iako stručnjaci iz industrije ističu rijetke slučajeve zlouporabe kao razlog za optimizam, upravo je ta labavost ono čega se kritičari najviše boje. Mali broj incidenata danas nije jamstvo sutrašnjice, posebno jer alati za nanošenje štete postaju sve dostupniji i moćniji.
„Budućnost tehnologije je ovdje i dolazi brže nego što smo očekivali.“ „Ona će temeljno preoblikovati industrije brzim inovacijama. Ova promjena nije daleka budućnost, već neposredna i ubrzavajuća sila.“
Microsoftova studija je kritično upozorenje, konkretan dokaz teorijskog straha. Pokazuje da se digitalni i biološki svijet spajaju na načine koji predstavljaju nove i duboke opasnosti. Put naprijed zahtijeva višestruki pristup: neumoljivu tehnološku obranu, pametnu i prilagodljivu regulaciju i, prije svega, jasno javno razumijevanje da moć stvaranja života nosi sa sobom moć stvaranja smrti. Utrka za osiguranje naše budućnosti je u tijeku, a upravo sada ofenziva ima prednost.
|
Slike:
 Komentari 0
Trenutno nema komentara na ovaj članak ...
NAPOMENA: Newsexchange ne preuzima odgovornost za komentatore i sadržaj koji objavljuju. U krajnjem slučaju, komentari se brišu ili se isključuje mogućnost komentiranja ...
|
|
|
Objavljeno  11. Oct, 2025
|
|
|
|
|
|
(0%)
