Dogodki postali tako bizarni, da v njih ne verjame niti umetna inteligenca
Modeli, kot sta Gemini in ChatGPT, so začeli cenzurirati uradne novice o ZDA in Venezueli, saj so njihovi statistični izračuni pokazali, da se to "ne more dogajati".
Prva stran dneva
Dnevni pregled najpomembnejših zgodb doma in po svetu.
Za hitre novice, aktualne teme in zanimive vsebine izberite Svet24 za svoj prednostni vir na Googlu.
Nastavi
Januarja je Evropo zgrabila panika.
Medtem ko je elita na Svetovnem gospodarskem forumu premlevala globalna tveganja, je ameriški predsednik Donald Trump pred obiskom Davosa sprva napovedal (čeprav je potem zatrdil drugače), da za priključitev Grenlandije ne izključuje uporabe vojaške sile.
Kot je takrat poročal britanski časnik The Guardian, so besede, ki so v diplomatskem svetu zvenele kot napoved konca povojne ureditve, sprožile verižno reakcijo – ne le v politiki, temveč v tehnologiji.
Danska premierka Mette Frederiksen je, kot navaja BBC, Trumpove besede označila za potencialni konec zavezništva Nato, a prava kriza se je istočasno odvijala v digitalnem svetu.
V tednih po tem dogodku so inženirji in uporabniki umetne inteligence opazili nenavaden fenomen: najnaprednejši jezikovni modeli, kot sta Googlov Gemini in OpenAI-jev ChatGPT, so mestoma prenehali razumeti svet.
Dogodki so postali tako ekstremni, da so presegli statistične modele normalnosti, na katerih temeljijo ti sistemi, in povzročili njihov kognitivni zlom.
Epsteinov seznam in "halucinacije" resnice
Nazadnje pa je meje algoritemskega dojemanja prestopila objava zadnjega paketa dokumentov v primeru Jeffreyja Epsteina.
Ko je bil na začetku februarja objavljen (najverjetneje) zadnji večji paket dokumentov v primeru Jeffreyja Epsteina, so se na seznamu pojavila imena, ki so bila tako visoko profilirana, povezave pa tako neverjetne, da so spominjale na slabo napisan triler.
Uporabniki, ki so želeli, da jim umetna inteligenca povzame vsebino dokumentov, so naleteli na zid.
Kot je na platformi Reddit dokumentiral uporabnik z vzdevkom martin_rj, je model Gemini poizvedbe o novih imenih zavrnil.
Namesto povzetka je izpisal opozorilo, da gre za »nepreverjene dezinformacije« in »škodljive teorije zarote«.
Za algoritem, treniran na podatkih iz preteklosti, kjer določene osebnosti veljajo za stebre družbe, je bila resničnost leta 2026 statistično nemogoča.
Model je vsebino obravnaval kot sporno ali nepreverjeno in jo zato zavrnil oziroma omejil.
Podobno se je dogajalo pri novicah iz Venezuele in pri spremembah ameriške uradne retorike.
Ko so uporabniki spraševali o ameriški operaciji, povezani z zajetjem Nicolása Madura, je Googlov Gemini že izhodišče zavrnili ali ga označil kot neverjeten oziroma “hipotetičen scenarij”, čeprav je model imel na voljo povezavo do spleta.
Algoritem je najdene rezultate označil za »umetno ustvarjene« (synthetic), svojo odločitev pa utemeljil s časovnim neskladjem in domnevnimi anomalijami v virih – zmotila sta ga predvsem uporaba arhaičnega naziva »Ministrstvo za vojno« in domena »war.gov«.
Na podlagi teh parametrov je model suvereno zaključil, da se zajetje venezuelskega predsednika v resnici ni zgodilo, svojo zmoto pa je celo podkrepil z absurdno natančnim izračunom, da obstaja 99,9-odstotna verjetnost, da gre zgolj za simulacijo.
Kaj je »Concept Drift«? (Ko stari zemljevid ne vodi več po novem svetu)
V ozadju te digitalne zmede ne gre za preprosto programsko napako ali »hrošča« v kodi, temveč za sistemski fenomen, ki ga podatkovna znanost pozna pod imenom konceptualni odmik oziroma v angleškem izvirniku concept drift.
Tukaj je tretji del članka, ki se osredotoča na konkretne študije primerov. V tem delu bova teoretični »concept drift« preslikala v prakso s tremi bizarnimi dogodki, ki so zmedli algoritme.
Od mikrovalov do Grenlandije
Za razumevanje teh tehničnih omejitev ni treba iskati napak globoko v kodi. Dovolj zgovorni so že dogodki prvih tednov leta 2026, ki so algoritme postavili pred zanimivo preizkušnjo.
Čeprav smo šele v februarju, se je zvrstilo že več primerov, ki so pokazali, da imajo stroji težave pri procesiranju novosti, ki ne ustrezajo njihovim statističnim predvidevanjem resničnosti.
Caracas in orožje, ki zveni kot iz risanke
Prvi in morda najbolj očiten primer konceptualnega odmika se je zgodil med ameriško operacijo v Venezueli.
Kot je v svoji podrobni reportaži razkrila revija Wired, je ameriška vojska za zajetje Nicolása Madura uporabila novo eksperimentalno orožje, uradno poimenovano »Discombobulator« (v ohlapnem prevodu: »Zmedevalec«).
Prvi in morda najbolj očiten primer, ko se je umetna inteligenca »zataknila«, se je zgodil med bliskovito ameriško operacijo v Venezueli.
Kot je v svoji podrobni reportaži razkrila revija Wired, je ameriška vojska za zajetje Nicolása Madura uporabila novo eksperimentalno orožje, uradno poimenovano »Discombobulator« (v ohlapnem prevodu: »Zmedevalec«).
Kje se je zalomilo pri umetni inteligenci? Pri imenu.
Beseda »Discombobulator« se v besedilih, na katerih so se ti sistemi učili, skoraj izključno pojavlja v znanstveni fantastiki, risankah ali satiri.
Ko je računalnik prejel informacijo, da je »Pentagon uporabil Discombobulator za strmoglavljenje vlade«, je njegova statistična logika to zavrnila kot verjetno potegavščino.
Za algoritem se resna vojaška oprema imenuje z zapletenimi kraticami, kot sta JDAM ali HIMARS, ne pa z imeni, ki spominjajo na izume iz risank o Minionih.
Trump in Grenlandija
Ko je Donald Trump napovedal možnost vojaške priključitve Grenlandije, je na svojem profilu na omrežju Truth Social delil sliko, ki je prikazovala ogromno zlato Trumpovo stolpnico sredi barvitih grenlandskih hišic.
Slika je bila, kot je potrdil The New York Times, ustvarjena prav z umetno inteligenco.
Tu so veliki jezikovni modeli naleteli na zanko, iz katere niso našli izhoda.
Programerji so jih namreč naučili, da morajo vsebine, ki jih ustvari umetna inteligenca (in ne človek), označiti kot morebitno zavajanje.
Toda v tem primeru je vir te »lažne« slike bil sam predsednik ZDA, kontekst pa resnična geopolitična grožnja.
Modeli niso znali ločiti med uradno državno politiko in predsednikovim spletnim zbadanjem oziroma »trolanjem«.
Ko so uporabniki spraševali o situaciji na Grenlandiji, so nekateri modeli halucinirali, da je stolpnica že zgrajena, drugi pa so celotno zgodbo o invaziji označili za satiro in jo v celoti zavrgli.
Vrnitev »Ministrstva za vojno«: Semantika nasilja
Tretji primer pa je razgalil konflikt med varnostnimi filtri in uradno nomenklaturo.
Bela hiša je z izvršnim ukazom preimenovala Ministrstvo za obrambo (Department of Defense) nazaj v njegovo zgodovinsko ime »Ministrstvo za vojno« (Department of War – ime, ki se je uporabljalo do leta 1947), so se vklopili varnostni mehanizmi modelov.
Kot poroča The Washington Post, so razvijalci leta vgrajevali v modele filtre, ki zavračajo poveličevanje vojne ali agresivno retoriko.
Beseda »obramba« je v jeziku AI nevtralna in sprejemljiva. Beseda »vojna« v imenu institucije pa sproži alarme povezane z nasiljem in sovražnim govorom.
Ko so uradni vladni kanali začeli uporabljati fraze o »maksimalni ubojnosti« novega ministrstva, so modeli te izjave začeli blokirati ali cenzurirati, saj so kršile njihove interne varnostne smernice – čeprav je šlo za uradne izjave ameriške vlade.
V vseh treh primerih se je izkazalo isto: Umetna inteligenca ni bila »pokvarjena«.
Delovala je točno tako, kot je bila načrtovana za svet, ki je obstajal do leta 2025. Svet pa se je spremenil.
Kot v svoji tehnični analizi pojasnjujejo strokovnjaki pri podjetju Nexla, ki se ukvarja z upravljanjem podatkovnih tokov, modeli umetne inteligence ne razumejo sveta na način, kot ga razumemo ljudje.
Nimajo intuicije. Namesto tega gradijo kompleksne statistične modele na podlagi preteklih dogodkov.
Njihovo »znanje« je v bistvu zamrznjena slika preteklosti – zemljevid sveta, kakršen je bil v času njihovega urjenja.
Na tem zemljevidu obstajajo določena nepisana pravila, ki so veljala desetletja: demokratične države ne napadajo svojih zaveznic zaradi ozemeljskih teženj, ministrstva zahodnih velesil imajo birokratska imena, kot je »obrambno«, in ne arhaična, kot je »vojno«.
Model se je naučil, da če vnos 'X' vsebuje besede »ZDA«, »invazija« in »Nato zaveznica«, je rezultat 'Y' skoraj zagotovo fikcija ali dezinformacija.
Težava nastopi, ko se, kot opozarjajo pri Nexli, temeljna logika okolja spremeni, model pa ostane enak.
To je bistvo konceptualnega odmika. Ne gre le za to, da so se spremenili vhodni podatki (kar stroka imenuje data drift), temveč se je spremenil odnos med njimi.
Ko je januarja 2026 resničnost postregla z dogodki, ki so kršili vsa ta naučena pravila – od Trumpove grožnje Grenlandiji do uporabe mikrovalovnega orožja v Caracasu –, so modeli trčili ob zid.
Njihov notranji statistični zemljevid se ni več ujemal s terenom.
Za algoritem, ki ne pozna koncepta »političnega preobrata«, ti dogodki niso predstavljali novih novic, temveč statistične napake v matriki, ki jih je treba v imenu natančnosti zavrniti.
Smrt resnice in »dividenda lažnivca«
Ta tehnološka zmeda pa ni le problem inženirjev v Silicijevi dolini; njene posledice so globoko politične in nevarne za demokracijo.
Kot v svoji analizi opozarja medijski inštitut Poynter, kognitivni zlom umetne inteligence na široko odpira vrata fenomenu, ki ga strokovnjaki imenujejo »dividenda lažnivca« (liar's dividend).
V svetu, kjer so »deepfake« posnetki in generirane novice postali vsakdanji, smo se za ločevanje resnice od laži začeli zanašati na algoritme.
Kaj pa se zgodi, ko ti algoritmi resnične dogodke označijo za lažne, ker so preveč bizarni?
Politični akterji, ujeti v škandale, so dobili popoln alibi. Če bi se, denimo, pojavil posnetek vojnega zločina ali korupcije, ki bi bil resničen, a bi ga umetna inteligenca zaradi njegove ekstremne narave označila za »statistično neverjetnega« ali »potencialno generiranega«, bi to politiku omogočilo, da resnico preprosto odpravi kot napad z umetno inteligenco.
Najzmogljivejši modeli umetne inteligence na svetu bi mu pri tem – zaradi svojih varnostnih filtrov – nenamerno prikimali.
Kot navaja portal Psychology Today, to vodi v »izkrivljanje resničnosti«, kjer uporabniki ne zaupajo več lastnim očem, temveč verjamejo halucinacijam stroja, ki je sprogramiran za svet, ki ne obstaja več.
Danes je laži mogoče ustvariti hitreje kot kadarkoli prej, medtem ko je iskanje resnice postalo zamudno in zahtevno.
Včasih se zdi, da nam tehnologija pri tem ne ponuja rešitve, ampak pot do dejstev kvečjemu dodatno zaplete.
Vrnitev človeka
Leto 2026 nas je tako na brutalen način naučilo lekcije, ki smo jo v zadnjem desetletju navdušenja nad tehnologijo pozabili: algoritmi so odlični služabniki v času stabilnosti, a obupni gospodarji v časih kaosa.
Dokler bodo veliki jezikovni modeli delovali na principu statistične verjetnosti, bodo vedno ujetniki preteklosti.
Najnaprednejša tehnologija v zgodovini človeštva nas je tako prisilila, da smo se vrnili k najstarejšemu orodju, ki ga imamo: k lastni, kritični človeški presoji.
Dokler se stroji ne naučijo, da je resničnost včasih bolj čudna od fikcije, bomo novice morali spet brati, in razumeti, sami.
Prva stran dneva
Dnevni izbor najpomembnejših zgodb doma in po svetu, dostavljen neposredno v vaš e-poštni nabiralnik.
