|
| | |
NEWSEXCHANGE SI | Kako umetna inteligenca prečka biološke varnostne ovire in odpira pot novim grožnjam ...| | | |
|
| Sobota, 11. Oktober, 2025 ob 9:09:11 |
  |
Digitalna Pandorina skrinjica
Nova raziskava Microsofta je pokazala, da lahko umetna inteligenca zlahka oblikuje biološke grožnje, ki se izmuznejo varnostnim sistemom, namenjenim njihovemu zaustavljanju. Raziskava, objavljena v prestižni reviji Science, razkriva ključno ranljivost v globalni infrastrukturi biološke varnosti, saj kaže, da lahko genetska zaporedja nevarnih toksinov, ustvarjena z umetno inteligenco, preidejo skozi komercialno programsko opremo za pregledovanje, ne da bi jih zaznali.
Microsoftova ekipa je uporabila pristop »rdečega časa« in razmišljala kot hekerji, da bi našla ranljivosti. Tarča je bila programska oprema za biološko varnost, ki jo uporabljajo podjetja, ki izdelujejo zaporedja DNK po meri za legitimne raziskovalce. Programska oprema deluje kot digitalni stražar in preverja vsako zahtevo za zaporedja, ki so podobna znanim nevarnim snovem, kot sta ricin ali antraks. Ključna pomanjkljivost, so ugotovili raziskovalci, je, da sistem ščiti le pred znanimi grožnjami, kar je usodna slabost v primerjavi z umetno inteligenco, ki lahko ustvari nove.
Z uporabo javno dostopnih programov umetne inteligence, zasnovanih za ustvarjanje novih beljakovinskih struktur, so raziskovalci digitalno oblikovali več kot 76.000 različic znanih strupenih beljakovin. Snovi niso fizično izdelali, temveč so zasnovali njihove genetske načrte. Cilj je bil ugotoviti, ali lahko umetna inteligenca "prepiše" genetsko kodo strupa in tako spremeni njegovo strukturo dovolj, da zaobide digitalno zaznavanje, hkrati pa ohrani njegovo smrtonosno funkcijo. Rezultat je bil za simulirane napadalce briljanten. Precejšnje število teh umetno zasnovanih zaporedij je brez opozorila prešlo skozi štiri različne programe presejanja.
Po odkritju te nevarne ranljivosti je Microsoftova ekipa sodelovala s prodajalci programske opreme pri razvoju in implementaciji popravka. To je vključo posodobitev podatkovnih baz in izboljšanje algoritmov ujemanja. V poznejšem testu so okrepljena orodja za pregledovanje uspešno prepoznala 97 odstotkov najnevarnejših zaporedij, ki jih je ustvarila umetna inteligenca. Čeprav je ta izboljšava pomembna, ni trajna rešitev. Dejstvo, da tri odstotke potencialno katastrofalnih zasnov še vedno ne odkrijejo, kaže, kako težko je ustvariti popoln digitalni ščit.
Umetna inteligenca in CRISPR: nevarna kombinacija
Moč današnje umetne inteligence je njena sposobnost pisanja in manipuliranja s kodo, kar se popolnoma ujema z genetsko kodo življenja. V kombinaciji s tehnologijami za urejanje genov, kot je CRISPR, lahko umetna inteligenca modelira in napove, kako bi nove biološke entitete delovale v človeškem telesu. Ta kombinacija ustvarja popolno nevihto, saj znižuje tehnične ovire za ustvarjanje kompleksnega biološkega orožja in daje uničujočo moč v roke manjših, neenakomernih akterjev.
Napredek umetne inteligence je dosegel raven, ko ga je skoraj nemogoče ustaviti. Ta realnost zahteva večjo poštenost in pripravljenost vlad. Tveganja je treba javno priznati in načrtovati, ne pa jih podcenjevati ali ignorirati. Izvršilna veja oblasti se mora od simboličnih gest premakniti h konkretnim, izvršljivim ukrepom za nadzor in spremljanje zlorabe teh tehnologij z dvojno rabo.
Nekateri varnostni strokovnjaki trdijo, da je osredotočanje izključno na komercialno sintezo DNK kot prvo obrambno linijo strateška napaka. Poudarjajo, da bodo vedno obstajali načini za prikrivanje zaporedij ali da bodo zlonamerni akterji nekega dne doma proizvajali DNK in se tako izognili komercialnim sistemom presejanja. Zato je treba biološko varnost vgraditi neposredno v sisteme umetne inteligence, z notranjim nadzorom nad tem, kaj lahko ustvarijo, kar prinaša lastne tehnične in etične izzive.
Tovorni vlak, ki ga ni mogoče ustaviti
Mnogi strokovnjaki menijo, da tekmujejo z neusmiljeno silo. Umetna inteligenca je kot tovorni vlak, ki pospešuje, medtem ko družbeni in regulativni okviri zaostajajo in nevarno zaostajajo. Medtem ko predstavniki industrije opozarjajo na redke poskuse zlorabe kot razlog za optimizem, se kritiki najbolj bojijo prav te ohlapnosti. Majhno število incidentov danes ni zagotovilo za jutri, še posebej, ker orodja za povzročanje škode postajajo vse bolj dostopna in močna.
»Prihodnost tehnologije je že tukaj in prihaja hitreje, kot smo pričakovali.« »S hitrimi inovacijami bo temeljito preoblikovala panoge. Ta sprememba ni oddaljena prihodnost, temveč neposredna in pospešena sila.«
Microsoftova raziskava je kritično opozorilo, konkreten dokaz teoretičnega strahu. Kaže, da se digitalni in biološki svet združujeta na načine, ki prinašajo nove in globoke nevarnosti. Pot naprej zahteva večplasten pristop: neusmiljeno tehnološko obrambo, pametno in prilagodljivo regulacijo ter predvsem jasno javno razumevanje, da moč ustvarjanja življenja s seboj nosi moč ustvarjanja smrti. Tekma za zagotovitev naše prihodnosti je v teku in trenutno ima ofenziva prednost.
|
 Komentarji 0Trenutno ni komentarja na na ta članek ... ...
OPOMBA: Newsexchange stran ne prevzema nobene odgovornosti glede komentatorjev in vsebine ki jo vpisujejo. V skrajnem primeru se komentarji brišejo ali pa se izklopi možnost komentiranja ...
|
|
|
|
Galerija:
| |
|
|
| | | |
| |
| |
|
| | | |
|
|
|
|
Sobota, 11. Oktober, 2025 ob 9:09:11 
147 ogledov, 
0 komentarjev
