Profimedia

Za hitre novice, aktualne teme in zanimive vsebine izberite Svet24 za svoj prednostni vir na Googlu.

Nastavi

Pornografski globoki ponaredki niso tehnološka anomalija ali obrobna zloraba umetne inteligence in še posebej niso inovacija, na katero se tehnološka podjetja v neskončnost izgovarjajo, ko gre za zaščito njihovih interesov. So orodje sistemskega nasilja, ki cilja natančno tja, kjer družba ženske že vso zgodovino drži v šahu – v njihovo telo, spolnost, verodostojnost in javno podobo. Zakaj posamezen storilec zlorabi posamezno žensko je odvisno od primera. Vprašanje, zakaj se to omogoča in podpira, pa ima veliko širši in bolj zlovešč odgovor.

Tehnologija

Globoki ponaredki: kako ustaviti digitalno slačenje

Ne gre vedno za osebno maščevanje, sprijeno zadovoljstvo ali bolno zabavo. V mnogih primerih gre za hladno in preračunano sporočilo – če boš dvigovala glas, te lahko damo na javno razstavo: golo, zlorabljeno, spervertirano. Če si vidna, si ranljiva. Ta praksa nastaja in cveti v okolju, kjer tehnološki dobički, politični interesi in patriarhalne težnje delujejo z roko v roki, je prepričana Alexandra Geese, poslanka zelenih v evropskem parlamentu in ena najbolj brezkompromisnih bork za demokracijo, zaščito temeljnih pravic na spletu, enakost spolov ter transparentnost in regulacijo digitalnih platform. Med drugim je bila ena ključnih poslank, ki je sodelovala pri pripravi Digital Services Act (DSA), zakonodajnega predloga EU o digitalnih storitvah, ki obravnava tudi odgovornost in sankcije pri digitalnih zlorabah.

»Naivno bi bilo misliti, da razvijalci aplikacij umetne inteligence ne vejo, kaj se dogaja, in da nimajo nič pri tem. Veliki tehnološki akterji, kot so Meta, X, Google, TikTok ipd., aktivno oblikujejo javno mnenje, vplivajo na politiko, krojijo svet po svoji meri. Algoritmi, ki jih uporabljajo njihove platforme, niso nevtralni, temveč spodbujajo polarizacijo in radikalizacijo. Sistemsko širijo dezinformacije, manipulirajo volitve in spodbujajo sovražni govor. Seksualno eksplicitni globoki ponaredki so del tega. Brez dvoma tisti najbolj boleč in očiten del.«

Shutterstock

Kontrola, zastraševanje in ogromni dobički

Ne gre le za posameznega storilca in žrtev, ne gre le za naslajanje ali maščevanje. Gre za sistemsko in sistematično nasilje nad ženskami, kažejo raziskave in dejstva. Seksualni globoki ponaredki so orodje sistemskega zastraševanja. Sporočajo, da je vsako žensko mogoče kadarkoli »seksualno kompromitirati«, zato naj bo raje tiho.

Raziskave kažejo, da je velika večina ponarejenih spletnih videov prav pornografska, tarče pa so skoraj izključno ženske in dekleta. Že leta 2019 je bilo tako opredeljenih kar 96 odstotkov ponarejenih videov, kar pomeni, da gre za nasilje, usmerjeno proti določenemu spolu – ženskam. Takšna zloraba povzroča sram, strah, samocenzuro, umik iz javnosti in veliko škodo v profesionalni karieri. Ima tako imenovani ohlajevalni učinek (chilling effect), ki zmanjšuje udeležbo žensk v javni razpravi, novinarstvu in aktivizmu.

UNESCO opozarja, da digitalno nasilje nad ženskami cilja prav na utišanje in izrinjanje ženskih glasov. Ali kot se je glasil eden od komentarjev pod globokim ponaredkom Taylor Swift: »Premočna si za žensko, pojdi nazaj v svojo škatlo!« Saj veste, moškim v politiki, denimo, bodo nasprotniki očitali nesposobnost ali nepoštenost, žensko bodo pa slekli.

Drugi razlog, zakaj se tehnološka podjetja, platforme in v spregi z njimi politika brezkompromisno borijo proti kakršnim koli omejitvam, pa je seveda denar. Samo Grok naj bi lani prinesel okoli 500 milijonov dolarjev, letos naj bi zaslužil okoli dve milijardi, potem pa je meja samo še nebo. Služijo tudi platforme, ki delijo pornografske posnetke in fotografije, z obiskanostjo in kliki, ki jih prodajajo oglaševalcem. Jasno, da jim ni v interesu, da bi jih umaknili, ko to žrtev zahteva.

Tehnologija

Umetna inteligenca v medijih: bodo virtualni voditelji izrinili ljudi?

HateAid pomaga ženski, ki se že deset let bori, da bi njene gole posnetke umaknili s spleta. Google je njene zahteve med drugim zavračal z izgovori kot, »pošljite nam dopis v Wordu, s pdf-dokumenti ne moremo delati«, in podobno. Vsakič, ko si izbori, da posnetke odstranijo, jih najde ponovno naložene na neki drugi strani. Poobjavili so jih že 1200-krat. Google se izgovarja, da so ustregli njeni zahtevi za določeno stran, ne morejo pa nič, če se pojavijo drugje. Google, resno? Pri vsem, kar znate, ne morete zares odstraniti nekaj specifičnih fotografij, s katerimi se ukvarjate že leta?

Platforme, med njimi najbolj priljubljeni družbeni mediji, so enako odgovorne za digitalno nasilje kot tisti, ki ponaredke ustvarijo, je prepričana Geese. »Razpečevanje, v tem primeru objavljanje takega gradiva, je kaznivo. Platforme ne morejo dvigniti rok od njega, češ, kriv je uporabnik.« S tega stališča tudi argumenti nekaterih poslancev, da bi se morali posamezni primeri zlorab preganjati na ravni držav članic, ne vzdržijo.

»Ne le, da bodo pristojne institucije s tovrstnimi primeri kmalu do vratu zasute. Ne le, da je skoraj nemogoče dokazati, kdo je globoki ponaredek prvi generiral in kdo vse ga je delil. In ne  gre le za dejstvo, da lahko žrtev sicer zahteva umik, a to traja neskončno dolgo. Gre za to, da je problem sistemski in ga je treba reševati tam, kjer nastaja. Pri tistih, ki ponujajo orodja umetne inteligence, ki takšne zlorabe omogoča, ter pri tistih, ki zlorabi dajo dostop do javnosti, se pravi platformah.«

Ponudniki kršijo pravila že s tem, da ne ocenijo tveganj, ki jih njihove aplikacije prinašajo. To je namreč ena od njihovih dolžnosti, preden jih dajo na trg. Po domače povedano, Elon Musk očitno ni pomislil, da bi lahko komu padlo na pamet Grok uporabiti za izdelavo pornografije, ko je šel čez seznam tveganj, za katere mora ponudnik poskrbeti, da jih njegova aplikacija ne omogoča.

Shutterstock

Sankcije proti uradnikom in aktivistom

DSA je eden glavnih kamnov spotike med EU in ZDA. Te ga vidijo kot napad ne le na demokracijo, kot si jo sami razlagajo, ampak tudi na njihove paradne tehnološke konje in s tem na ameriško gospodarstvo. Kako žolčno zavračajo evropske zahteve po nadzoru in odgovornosti tehnoloških velikanov, lepo opiše že uvod govora odbora za pravosodje v ameriškem kongresu. »Izbriši. Utišaj. Odpravi: kako evropski akt o digitalnih storitvah ogroža svobodo govora in zaupanje širom sveta,« se glasi naslov.

Prvi stavki pa grejo takole: »Evropski akt o digitalnih storitvah in njegovi zagovorniki si v digitalni dobi prizadevajo za globalni nadzor nad narativi. Njegov cilj je cenzura, njegova sredstva so drakonska centralizacija, njegov doseg pa globalen ... Ustaviti ga je treba. Evropa želi postati globalni vodja na področju cenzure. Njena obsedenost z usklajevanjem in regulacijo je v nasprotju z vrednotami svobode govora in svobodnega tiska. To so univerzalne človekove svoboščine in hkrati tradicionalne evropske vrednote, vendar jih nekateri vse pogosteje obravnavajo kot družbeno zlo, ki ga je treba izkoreniniti iz razsvetljene družbe. Evropski spletni kodeksi govora kršijo te človekove pravice …«

Spor med Brusljem in Washingtonom se je zaostril po tem, ko je Evropska komisija platformi X naložila kazen 120 milijonov evrov zaradi kršitev DSA, kar je bila prva kazen po tej zakonodaji. Lastnik X-a Elon Musk je po kazni pozval k nič manj kot ukinitvi Evropske unije, Bretona pa je označil za evropskega tirana. Washington je nato napovedal, da bi lahko tarča protiukrepov postala tudi evropska podjetja, med njimi Accenture, DHL, Siemens, Mistral in Spotify. ZDA so se na uveljavitev DSA odzvale z osebnimi napadi na tiste, ki so dokument pomagali pripravljati, in z zastraševanjem tistih, ki si upajo naglas govoriti o omejitvah te »svobode govora«, ki očitno zajema tudi otroško in preostalo pornografijo globokih ponaredkov.

Profimedia

Ne le, da je Trumpova administracija uvedla sankcije proti arhitektu evropske digitalne zakonodaje, nekdanjemu evropskemu komisarju Thierryju Bretonu. Prepoved vstopa v državo je doletela tudi aktiviste, ki pomagajo žrtvam digitalnih zlorab, kot sta ustanoviteljici nemškega HateAid, Anna-Lena von Hodenberg in Josephine Ballon. Neprofitna organizacija HateAid iz Berlina se zavzema za človekove pravice v digitalnem prostoru in žrtvam digitalnega nasilja pomaga s svetovanjem ter kritjem pravnih stroškov.

Nihče ne bi pomislil, da se lahko pogled najvišje ameriške politike uperi proti dvema mladima ženskama, ki pomagata ljudem, ki so očitne žrtve očitnega kriminala. A sodelovali sta pri pripravi SDA in malo pred božičnim večerom je ameriško zunanje ministrstvo napovedalo vizumske sankcije za pet posameznikov. Na seznamu sta se znašli tudi Anna-Lena in Josephine. Označeni sta kot »radikalni aktivistki« v »oboroženi organizaciji«. To sicer ni mišljeno dobesedno; organizaciji se očita, da namerno uporablja pravo, regulacijo, javni pritisk ali moralne argumente kot »orožje« za doseganje političnih ciljev.

Odnosi

Strah pred umetno inteligenco: vse skupaj sploh ni hec

Anna-Lena in Josephine sta prejšnji teden govorili tudi v Evropskem parlamentu. »Bojiva se, da se ZDA ne bodo ustavile pri tem,« pravita. »Grozijo nama z vseh strani, z vsem mogočim, najin primer pa uporabljajo kot opozorilo drugim. O naju je tvital sam ameriški državni sekretar Marco Rubio.

Za zdaj gre za prepoved vstopa v ZDA, a namigujejo tudi na to, da nama bodo ukinili celotno digitalno identiteto, skupaj s spletnimi stranmi, maili, bančnimi računi in tako naprej. V najhujšem primeru bi naju lahko celo kazensko ovadili.« Anna-Lena in Josephine priznavata, da je ta pritisk ogromno breme zanju in za njuni družini ter da ju močno omejuje pri njunem delu. A odnehali ne bosta, pravita. Točno to je namreč tisto, proti čemur se vsak dan borita.

A v tem boju posamezniki ne smejo ostati sami. Ne tisti, ki so bili žrtve globokih ponaredkov, ne tisti, ki se proti digitalnemu nasilju borijo kot aktivisti in zakonodajalci. »Od Evropske komisije zahtevamo jasen znak, da je to nesprejemljivo. V nasprotnem primeru si v prihodnje nobena organizacija civilne družbe, noben politik, noben raziskovalec in zagotovo noben posameznik ne bo več upal opozarjati na zlorabe ameriških tehnoloških podjetij. Evropski zakoni pa ne bodo vredni več kot papir, na katerem so napisani,« so jasni pri HateAid.

revija Jana