Model umetne inteligence sprožil alarm pri ameriški nacionalni varnosti
Anthropicov Mythos naj bi med odobrenim varnostnim preizkusom v nekaj urah prodrl v skoraj vse zaupne sisteme NSA. To naj bi bil tudi razlog, da so njegov dostop omejili.
Prva stran dneva
Dnevni pregled najpomembnejših zgodb doma in po svetu.
Za hitre novice, aktualne teme in zanimive vsebine izberite Svet24 za svoj prednostni vir na Googlu.
Nastavi
Ameriška razprava o umetni inteligenci in nacionalni varnosti je dobila nov, precej dramatičen primer. Po poročanju portala Cyber Security News naj bi Anthropicov model Mythos med odobrenim varnostnim preizkusom v nekaj urah prodrl v skoraj vse zaupne sisteme ameriške Agencije za nacionalno varnost, bolj znane kot NSA.
Trditev naj bi izvirala iz izjave senatorja Marka Warnerja, podpredsednika senatnega odbora za obveščevalne dejavnosti. Ta naj bi povedal, da mu je general Joshua Rudd, ki vodi NSA in ameriško kibernetsko poveljstvo, dejal, da je Mythos v notranjem preizkusu »v nekaj urah, ne v tednih« prebil skoraj vse njihove zaupne sisteme.
Ameriška vlada je 12. junija Anthropicovim modelom Fable 5 in Mythos 5 omejila dostop za vse tuje državljane, tudi za tiste, ki živijo v ZDA ali delajo v samem podjetju.
Anthropic je nato dostop do obeh modelov začasno onemogočil vsem uporabnikom. Podjetje je pojasnilo, da v tako kratkem času ne more zanesljivo preveriti državljanstva vseh uporabnikov in zaposlenih, ne da bi tvegalo kršitev odredbe.
Zakaj sta modela pomembna
Fable 5 in Mythos 5 spadata med najzmogljivejše Anthropicove modele. Mythos 5 je bil povezan z omejenim programom Project Glasswing, namenjenim uporabi umetne inteligence pri varnosti programske opreme. Takšni modeli niso namenjeni samo pisanju besedil ali pomoči pri programiranju, ampak tudi reševanju zahtevnejših nalog, pri katerih morajo analizirati kodo, iskati napake, uporabljati orodja in predlagati popravke.
Model, ki zna dobro pregledovati kodo, je lahko zelo koristen za obrambo. Razvijalcem lahko pomaga najti ranljivost v aplikaciji, prepoznati nevarno odvisnost ali predlagati popravek. V podjetju lahko tak sistem hitreje odkrije napako, ki bi jo sicer našli šele napadalci.
Enako znanje pa je lahko uporabno tudi v napadu. Če model nekoga vodi skozi razumevanje tujega sistema, mu pomaga analizirati kodo in povezovati šibke točke, lahko pospeši delo kibernetskega napadalca. Pri najmočnejših modelih zato vprašanje ni več samo, kaj znajo narediti, ampak tudi, kdo sme do njih dostopati.
Kaj pomeni varnostni preizkus
Poročilo o domnevnem vdoru v sisteme NSA govori o odobrenem "red-team" preizkusu. To je nadzorovana vaja, pri kateri pooblaščena ekipa preizkuša odpornost sistema tako, da razmišlja kot napadalec. Takšne vaje izvajajo banke, vojske, državne ustanove in velika tehnološka podjetja.
Namen tega je odkrivanje šibkih točk sistema. Red-team lahko na primer preverja, ali je mogoče zlorabiti staro programsko ranljivost, napačno nastavljen strežnik, slabo ločene uporabniške pravice ali pozabljeno povezavo med sistemi. Če umetna inteligenca pri takem preizkusu močno pospeši delo ekipe, to za varnostne službe ni nepomembno.
V praksi to ne pomeni nujno filmskega prizora, v katerem umetna inteligenca sama napade državno agencijo. Bolj verjeten scenarij je, da model pomaga ljudem hitreje najti poti skozi zapleten sistem: pregleda dokumentacijo, razume kodo, izlušči možne ranljivosti, predlaga zaporedje korakov in poveže napake, ki bi jih človek iskal veliko dlje.
Prvi večji poseg neposredno v dostop do modela
Ameriška politika umetne inteligence se je doslej pogosto vrtela okoli čipov, podatkovnih centrov in strojne opreme. ZDA so omejevale izvoz najzmogljivejših procesorjev, ker ti omogočajo urjenje in poganjanje velikih modelov.
Zgodba je pomembna zato, ker se pri najzmogljivejših modelih umetne inteligence spreminja način razmišljanja. To niso več samo programi, ki jih uporabnik odpre v brskalniku in uporablja kot katero koli drugo storitev. Pri modelih, ki lahko pomagajo pri kibernetski varnosti, pisanju kode in iskanju ranljivosti, država vidi tudi varnostno tveganje.
Za uporabnike je to nova realnost. Če podjetje ali raziskovalna skupina svoje delo postavi na tak model, ni več odvisna samo od ponudnika in naročnine. Odvisna je tudi od pravil države, ki lahko dostop omeji zaradi nacionalne varnosti.
Anthropic nasprotuje razlagi vlade
Anthropic je po odredbi poudaril, da se z razlago ameriške vlade ne strinja. Po navedbah podjetja naj bi bila skrb oblasti povezana z možnostjo obhoda varoval, ki omejujejo uporabo modela pri iskanju programskih ranljivosti.
Podjetje trdi, da to ni posebnost njegovih modelov. Podobne težave naj bi se pojavljale pri vseh najzmogljivejših sistemih umetne inteligence, zato je po njihovi oceni popolna omejitev dostopa nesorazmeren ukrep. Anthropic je napovedal sodelovanje z ameriško vlado pri oblikovanju bolj predvidljivega okvira za upravljanje tveganj.
Evropsko vprašanje odvisnosti
Ameriška odločitev ima posledice tudi za zaveznike. Po poročanju Cyber Security News naj bi bili v državah obveščevalnega zavezništva Five Eyes, torej v Avstraliji, Veliki Britaniji, Kanadi in Novi Zelandiji, nad nenadnim odvzemom dostopa presenečeni.
Če to drži, primer kaže, kako hitro lahko nacionalnovarnostna odločitev v ZDA poseže v uporabo tehnologije tudi pri partnerjih.
Za Evropo je to še eno opozorilo o tehnološki odvisnosti. Javne ustanove, podjetja in raziskovalci lahko uporabljajo ameriške modele, vendar nad njihovim dostopom nimajo zadnje besede. Pri najzmogljivejših sistemih lahko odločajo varnostni organi države, v kateri je podjetje registrirano.
Prva stran dneva
Dnevni izbor najpomembnejših zgodb doma in po svetu, dostavljen neposredno v vaš e-poštni nabiralnik.
