revija Jana

Za hitre novice, aktualne teme in zanimive vsebine izberite Svet24 za svoj prednostni vir na Googlu.

Nastavi

Zadnje čase se predvsem v Evropi na veliko praši za asistentom umetne inteligence, klepetalnim robotom Grokom v lasti podjetja xAI milijarderja Elona Muska, ki je omogočil nezaslišano digitalno slačenje žensk in otrok brez njihovega soglasja. Mrzlično pehanje korporacij za prevlado v tehnologiji prihodnosti je povzročilo brezglavi razvoj sistemov – brez ustreznih regulacij in resnih študij o dolgoročnih posledicah. Kritike zahtevajo širši družbeni premislek in ukrepanje. Kaj lahko naredimo, da se ne bomo slečeni na spletu znašli tudi sami?

Odnosi

Strah pred umetno inteligenco: vse skupaj sploh ni hec

Že izkušnje z družbenimi mediji nam kažejo, da so tehnologije, ki so se nam sprva zdele pretežno koristne, prispevale k zasvojljivosti, družbeni polarizaciji in porastu težav z duševnim zdravjem. »Podobno škodljive vzorce opažamo pri uporabi generativne umetne inteligence,« pravi Nejc Horvat iz inštituta Danes je nov dan, neodvisne neprofitne organizacije, ki deluje na presečišču tehnologije, demokracije in digitalnih pravic, aktivno pa se ukvarjajo tudi z regulacijo in odgovorno uporabo novih tehnologij, s posebnim poudarkom na umetni inteligenci. »Ravno te dni beremo o aplikaciji Grok, ki je omogočila nedopustno digitalno slačenje žensk in otrok na platformi X. Glede na to, da gre za tehnologijo, ki je še v razvoju, si verjetno sploh ne moremo predstavljati vseh nevarnosti uporabe tovrstnih orodij, dolgoročne posledice vedno večje odvisnosti od orodij generativne umetne inteligence pa se bodo verjetno pokazale šele čez nekaj let.«

Shutterstock

V postelji z dvema

Prijateljevi sodelavci so si za zabavo ustvarili svojo skupino, kjer objavljajo z umetno inteligenco ustvarjene žgečkljive podobe, recimo kako se s prijateljem, s katerim sedita za mizo ob pijači, poljubita. Nekdo drug se znajde v postelji z dvema ženskama … Podobe so videti neverjetno resnične in prav gotovo bi bilo zelo narobe in boleče zanje ter njihove sorodnike, če bi se znašle na spletu.

»Tudi klepetalni roboti drugih podjetij (Chat GPT, Googlov Gemini in drugi) so sposobni česa takega, vendar večina ne dovoli generiranja (ponarejanja podob) realnih oseb. Chat GPT tako zahtevo diplomatsko zavrne, Grok pa cenzure nima. Vanj so za zabavo lani dodali pogovorno nastavitev 'spicy mode' – pikantni način, s katerim lahko ženo ali kolega slečeš do kopalk. Kolikor sem sledil, so varnostne nastavitve klepetalnega robota slabele in nazadnje jim ga je uspelo prepričati, da je dovoljeval namigovanje na seksualno vsebino.

Tehnologija

Umetna inteligenca v medijih: bodo virtualni voditelji izrinili ljudi?

S širjenjem informacije so začeli znane ženske preoblačiti v spodnje perilo in namigovati na eksplicitno seksualno vsebino, še bolj problematično pa je to začelo postajati, ko so začeli vključevati mladoletne osebe, čeprav to seveda ni bil izvirni namen nastavitve. Treba bi bilo sprejeti sistemsko odločitev, da se kaj takega ne bi nadaljevalo. Predstavniki Groka so se sicer opravičili za vsebino, kakšne bodo posledice, je pa drugo vprašanje. Danes je mogoče marsikaj, ampak ne za vsako ceno!« pa pravi prof. dr. Vitomir Štruc iz Laboratorija za strojno inteligenco Fakultete za elektrotehniko Univerze v Ljubljani.

Nadaljevanje prispevka si lahko preberete v reviji Jana, št. 3, 20. januar 2026.

Revija je na voljo tudi v spletni trafiki.

Izvedeli boste:

• Kako nastajajo globoki ponaredki?

• Tehnologija zelo uporabna v filmski industriji

• Modeli omogočajo morje zlorab

• Rešitve so večplastne

• Zaščitite nas na spletu

revija Jana