Izbori u najmoćnijim zemljama svijeta uz nikad jaču umjetnu inteligenciju. Što bi uopće moglo poći po zlu?

Da se to dogodilo danas, kada je Twitter postao X, Rota brine da bi odgovor platforme bio sasvim drugačiji ili još gore – nepostojeći.

Musk srozao bivši Twitter

Twitter je u X preimenovao milijarder Elon Musk ubrzo nakon što je 2022. tu društvenu mrežu kupio za 44 milijarde dolara. Musk je odmah otpustio polovicu zaposlenika tvrtke, uključujući većinu timova za sigurnost koje je vodio Roth. Radi se o timovima koji su pazili da se na plaftormi ne šire obmanjujući i štetni sadržaji.

Yoel Roth dao je ostavku na Twitteru u studenom 2022., manje od mjesec dana nakon što ga je Musk preuzeo. Muskova politika nesputane slobode govora, zajedno s revizijom sustava verifikacije, koji je prethodno pomagao korisnicima da identificiraju račune, dovela je do poplave dezinformacija i govora mržnje na platformi.

No X nije jedina velika društvena mreža s manjkom moderatora sadržaja. Meta, koja posjeduje Facebook, Instagram i WhatsApp, otpustila je više od 20.000 zaposlenika od studenog 2022., od kojih je nekoliko tisuća radilo na povjerenju i sigurnosti, dok su mnogi zaposlenici YouTubea koji rade na politici dezinformacija bili pod utjecajem otpuštanja u matičnoj kompaniji Google.

Strah od izborne godine

Teško da postoji gore vrijeme za štedjeti u borbi protiv štetnog sadržaja na internetu. Očekuje se da će više od 50 zemalja, uključujući tri najveće svjetske demokracije i Tajvan, sve nesigurnije geopolitičko žarište, održati nacionalne izbore ove godine. Sedam od 10 najmnogoljudnijih zemalja svijeta – Bangladeš, Indija, Indonezija, Meksiko, Pakistan, Rusija i Sjedinjene Američke Države — zajedno čine trećinu svjetske populacije koja će 2024. izaći na izbore. A izbori su savršeno plodno tlo za dezinformacije.

Tvrtke koje su vlasnici društvenih mreža inzistiraju na tome da poštuju izbore. YouTube je ”uvelike uložio u politike i sustave koji pomažu da uspješno podržimo izbore diljem svijeta”, rekao je glasnogovornik Ivy Choi. TikTok pak kaže da ima ukupno 40.000 stručnjaka za sigurnost i da radi sa 16 organizacija za provjeru činjenica na 50 svjetskih jezika.

Meta je odbila komentirati ovu priču, ali predstavnik tvrtke uputio je na nedavni post na blogu Nicka Clegga, bivšeg zamjenika premijera Ujedinjenog Kraljevstva koji sada služi kao Metin šef globalnih poslova. ”Imamo oko 40.000 ljudi koji rade na sigurnosti, s više od 20 milijardi dolara uloženih u timove i tehnologiju u ovom području od 2016.”, napisao je Clegg u objavi.

Slabo pokriće van Zapada

Međutim, postoje i drugi zabrinjavajući znakovi. YouTube je tako prošlog lipnja najavio da će prestati uklanjati sadržaj koji širi lažne tvrdnje o izborima u SAD-u 2020., a Meta je 2022. tiho napravila sličnu promjenu pravila o političkim oglasima. A kao što su prethodna iskustva pokazala, društvene mreže imaju još manje pokriće izvan Zapada, s velikim mrtvim točkama u lokalnim jezicima i kontekstu koji dezinformacije i govor mržnje čine ne samo sveprisutnijim nego i opasnijim, piše FP.

”Mi ne dobivamo pozornost na način na koji ove tvrtke daju važnost izborima u zapadnim demokracijama”, rekao je Nighat Dad, pakistanski zagovornik digitalnih prava koji je također u Nadzornom odboru Mete, neovisnom žalbenom tijelu koje je osnovala tvrtka kako bi procijenili njihove odluke o moderiranju sadržaja.

“Nije da ne rade ništa. Mislim da ne čine dovoljno”, dodao je Dad. Smatra da se prijetnje s kojima se suočavaju platforme društvenih medija i glasači koji ih koriste nisu toliko promijenile, no zato se promijenila razina pripreme društvenih mreža za te prijetnje. “Zabrinut sam da su velike platforme manje pripremljene za prijetnje sigurnosti izbora 2024. nego što su bile za bilo koji veliki ciklus globalnih izbora od 2016.”, priznao je. I to sve prije nego što smo uopće spomenuli – umjetnu inteligenciju.

Prekretnica u tehnologiji

Tehnologija je u različitim oblicima prisutna godinama, a prekretnicu je doživjela u studenom 2022. kada je OpenAI pokrenuo ChatGPT. Chatbot i njegove naknadne nadogradnje, sposobne generirati odlomke teksta na naredbu u roku od nekoliko sekundi, pokrenule su novu borbu u tehnološkom svijetu. Meta, Google i Microsoft, koji je također uložio milijarde dolara u OpenAI, pokrenuli su vlastite chatbotove, kao i novije AI tvrtke poputt Anthropica, Inflectiona i Cohere te kineske tehnološke vršnjake Baidu, Tencent i Alibabu.

OpenAI također posjeduje DALL-E, jedan od mnogih AI generatora slike na tržištu, a prilagođavanje zvuka i videa vlastitim potrebama također je beskrajno olakšano takozvanim generativnim AI alatima. Ti alati nažalost imaju potencijal pojačati dezinformacije društvenih medija na način koji dosad nije viđen.

Kompanije i vlade pokušavaju postaviti zaštite protiv takvih lažnih informacija. Meta, TikTok, Microsoft i YouTube nametnuli su neki oblik zahtjeva kreatorima i političkim oglašivačima da otkriju kada je njihov sadržaj stvoren pomoću umjetne inteligencije.

‘Brana je pukla, to je početak’

Alondra Nelson, bivša direktorica Ureda za znanosti i tehnološku politiku Bijele kuće i zamjenica pomoćnika predsjednika Joea Bidena, predvodila je 2022. nacrt Bidenove administracije za Povelju o pravima umjetne inteligencije. ”Postojao je osjećaj frustracije među mnogim kreatorima globalne politike zbog nedostatka regulatornih radnji oko umjetne inteligencije. Dakle, čini se kao da je brana pukla, ali to je tek početak”, rekla je.

Pitanje, ne samo među kreatorima politike, već i među industrijom i civilnim društvom, jest mogu li se te ”ograde” dovoljno brzo postaviti, ako se svi uopće mogu složiti čega se treba čuvati.

OpenAI je prednjačio u upozoravanju koliko bi njegovi alati mogli biti štetni, dok je istovremeno nastavio pojačavati mogućnosti tih alata. U srpnju 2023. tvrtka je osnovala partnerstvo pod nazivom Frontier Model Forum s Anthropicom, Googleom i Microsoftom kako bi zajedno radili na sigurnosti umjetne inteligencije, a Sam Altman, dugogodišnji vođa OpenAI-ja, bio je na čelu za vladinu regulaciju te industrije.

‘Hrpu stvari još ni ne znamo’

Samo nekoliko dana nakon što je bio domaćin OpenAI-jeve prve razvojne konferencije, na kojoj je tvrtka predstavila svoj novi, poboljšani chatbot, Altman je izdao posebno upozorenje o AI-ju i izborima u azijsko-pacifičkoj regiji. “Opasna stvar tu nije ono što već razumijemo, nego sve nove stvari – poznate nepoznanice, nepoznate nepoznanice. Postoji cijela hrpa drugih stvari koje ne znamo jer nismo vidjeli što generativni video može učiniti, a to će doći jako brzo i jako žestoko tijekom izborne godine,” rekao je tijekom panela 16. studenog.

Možda kao priznanje potencijalne zlouporabe, OpenAI je imenovao Becky Waite, bivšu izvršnu direktoricu Mete, za voditeljicu globalnih izbora u rujnu. Međutim, njezina izborna strategija zasad ostaje nejasna.

Manje od jednog dana nakon Altmanova predizbornog upozorenja, OpenAI je utonuo u kaos u kojem je nastala zabrinutost da će umjetna inteligencija utjecati na demokraciju. Upravni odbor tvrtke objavio je zato 7. studenog da Altman dobiva otkaz, koji stupa na snagu odmah, jer “nije bio dosljedno iskren u svojoj komunikaciji s odborom”.

Neviđeni kaos u OpenAI-ju

Predsjednik OpenAI-ja Greg Brockman dao je otkaz u znak prosvjeda nedugo nakon toga, a izbacivanje ovog dvojca navodno je pokrenulo veliku pobunu među zaposlenicima tvrtke. Altman i Brockman vratili su se OpenAI-ju s novom upravom nakon pet dana i dva privremena izvršna direktora, čime su završili jedan od najkaotičnijih ciklusa vijesti u Silicijskoj dolini zadnjih godina.

Sva ta događanja u OpenAI-ju možda su bila samo mračni podsjetnik na još jednu neugodnu istinu: koliko god AI bila utjecajna tehnologija, u dobru i zlu, uglavnom je na volji upravnih odbora kompanija ili ekscentričnih milijardera. Dok se čini da se vladine mjere u vezi s umjetnom inteligencijom odvijaju nešto brže nego što je bilo s prethodnim tehnologijama, milijarderi koji vode te tvrtke još uvijek imaju nerazmjernu količinu moći.

Tri argumenta za AI

Za one koji žele biti đavolji odvjetnici protivnicima AI-a, postoje tri donekle uvjerljiva argumenta.

Prvi je uloga umjetne inteligencije u potencijalnom rješenju. Društveni mediji više se oslanjaju na automatizirane alate za otkrivanje kao sustave ranog upozoravanja na dezinformacije i govor mržnje, filtrirajući količinu sadržaja koju ljudi moraju pogledati. Prema YouTubeovom izvješću o transparentnosti za razdoblje od travnja do lipnja 2023., ti su alati otkrili 93 posto videozapisa koji su na kraju uklonjeni zbog kršenja pravila platforme. Za TikTok je taj broj bio oko 62 posto. Meta je od 2020. pojačala upotrebu AI alata za moderiranje sadržaja i također kaže da njihova tehnologija otkriva više od 90 posto sadržaja koji krši Metine uvjete prije nego što ga korisnici prijave. “AI je mač kao i štit”, rekao je Chris Cox, Metin glavni produktni direktor, tijekom panela APEC-a.

Međutim, postoji i značajan rizik od previše oslanjanja na AI, bilo da se slučajno skida legitiman govor ili nedostaje ključni jezični i lokalni kontekst. ”Mislim da je to mjesto gdje mnoge platforme misle da će moderiranje sadržaja proći ili se barem tome nadaju, da će se umjetna inteligencija boriti protiv umjetne inteligencije” , rekao je Harbath, bivši voditelj izbora za Facebook.

Ne prepoznaje se autentičnost

Drugi argument je da dezinformacije koje generira umjetna inteligencija možda neće uspjeti na način na koji bi loši akteri to namjeravali. To je djelomično zato što su opetovana upozorenja o lažiranim slikama i video zapisima učinila korisnike društvenih medija dodatno skeptičnima i opreznima, a također i zato što velik dio sadržaja jednostavno još nije toliko uvjerljiv. Slike generirane umjetnom inteligencijom često se prikazuju s dodatnim prstima ili udovima. “Još nismo vidjeli onakvu vrstu scenarija sudnjeg dana koji svi zamišljaju, a to je da video kruži, nitko ne može shvatiti je li istinit ili lažan, a zatim mijenja izbore. Ljudi mogu odgovoriti na ovu vrstu sadržaja i razotkriti ga”, rekao je Roth, bivši šef povjerenstva i sigurnosti Twittera.

Zabrinjavajuće je pak, dodao je, kada se za autentični videozapisi tvrdi da su lažni, no ističe da platforme moraju imati prave sustave za rješavanje obmanjujućeg sadržaja bez obzira na to kako je generiran. “Nije važno radi li se o umjetnoj inteligenciji ili nije – morate obaviti taj posao”, kaže Roth.

Dezinofrmacije ne trebaju AI

To vodi do trećeg argumenta: da lažne vijesti u mnogim zemljama ne trebaju AI da bi bili učinkovite. Uzmimo za primjer Indiju, gdje je platforma WhatsApp daleko najdominantnija, s više od pola milijarde korisnika. Dezinformacije koje se dijele privatno i javno, većinom od strane političkih stranaka i njihovih pristaša, i dalje se sastoje od na brzinu uređenih slika izvađenih iz konteksta.

“Možete proizvesti milijun tvitova, ali ako to vide samo dvije osobe, koga briga? Moje je mišljenje da razlika koju čini umjetna inteligencija neće biti značajna jer je uvjetovana mehanizmima isporuke”, rekao je Kiran Garimella, profesor na Sveučilištu Rutgers koji istražuje online dezinformacije na globalnom jugu. Drugim riječima, ako nije dovoljno prosljeđivali fotografiju na WhatsAppu, neće biti važno jeste li koristili AI ili Photoshop.

Prema pisanju FP-a, Indija je od izbora 2019. dobila još 250 milijuna novih korisnika interneta. Ovaj porast omogućila je eksplozija jeftinih pametnih telefona i jeftinijih mobilnih podataka, ali je rast došao bez mnogo digitalne pismenosti za one koji prvi put koriste internet. “Jedna stvar o kojoj smo razgovarali jest hoće li tehnološke tvrtke biti spremne na poplavu dezinformacija”, otkrila je Sumitra Badrinathan, profesorica na Američkom sveučilištu koja proučava političke dezinformacije u Indiji.

Uznemirujuće otkriće

Poseban poziv na uzbunu bilo je otkriće da se Rusija umiješala u predsjedničke izbore u SAD-u 2016., osobito putem Facebooka. To je dodalo novu, alarmantnu dimenziju raspravi o dezinformacijama na internetu i pomoglo staviti u okvir kako platforme pristupaju izbornom integritetu.

Ruski napori dezinformiranja na Facebooku nastavljeni su na izborima 2020., navodi deklasificirano izvješće američke nacionalne obavještajne službe. Još jedan ključni nalaz tog izvješća je navod da ”Kina nije poduzela napore miješanja i da je razmatrala, ali nije poduzela napore utjecaja s namjerom da promijeni ishod izbora”. Malo je vjerojatno da će tako biti i ove godine, i to ne samo tijekom izbora u SAD-u.

Vladini dužnosnici, stručnjaci za kibernetičku sigurnost i tehnološke tvrtke upozoravaju da se spremnost Kine da vodi informacijski rat značajno promijenila. Kina sve više primjenjuje “propagandu, dezinformacije i cenzuru” diljem svijeta i “troši milijarde dolara godišnje na strane manipulacije informacijama”, napisao je Global Engagement Center State Departmenta u izvješću prošlog rujna.

Dezinformacije u svakom kutu

Analitičari prijetnji u Microsoftu došli su do sličnog zaključka: kako je kineska Komunistička partija “povećala svoje propagandne i dezinformacijske sposobnosti, Kina je postala sve provokativnija u nastojanju da izborni utjecaj”, napisali su u izvješću u studenome.

I dok će većina očiju biti uprta u ankete u SAD-u ovog studenog, jedni od najranijih izbora u godini mogli bi biti najposljedičniji. Tajvan bi trebao izabrati novog predsjednika 13. siječnja u odluci koja će sigurno imati ogromne geopolitičke posljedice. Napetosti oko otoka porasle su prošle godine usred sve agresivnije vanjske politike Kine. Kina je pojačala gospodarski i vojni pritisak na Tajvan, a taj će se pritisak vjerojatno očitovati u nastojanjima da se posije podjela unutar tajvanskog biračkog tijela, gdje su glavne političke ideologije uvelike definirane njihovom spremnošću za suradnju s Kinom.

“Osobito bliže izbornom danu, količina dezinformacija eksplodira i infiltrira se u svaki kutak. Aktivno traženje i provjera dezinformacija težak je teret za komisiju, a razjašnjene činjenice i odgovori mogu se razvodniti velikom količinom dezinformacija”, reklo je tajvansko Središnje izborno povjerenstvo (CEC) u pisanom odgovoru za Foreign Policy o najvećim izazovima s kojima se suočava.

Washington uči od Tajvana

Jedna od slamki spasa Tajvanu je nevjerojatno tehnički potkovano stanovništvo koje se godinama nosi s kineskim internetskim pritiskom. Poplava dezinformacija tijekom posljednjih izbora na otoku 2020. nije spriječila aktualnu predsjednicu Tsai Ing-we, čija je Demokratska progresivna stranka daleko manje prokineska od glavne oporbene stranke Kuomintanga, da uvjerljivo pobijedi na izborima.

Washington će to pažljivo promatrati. “Ono što vam mogu reći je da su sami Tajvanci jedni od vodećih stručnjaka za suzbijanje dezinformacija, imaju neke od najistaknutijih analitičkih sposobnosti i zapravo smo u dijalogu s njima o njihovom informacijskom prostoru”, kaže Elizabeth Allen, američka podtajnica država za javnu diplomaciju i javne poslove.

U današnjoj teškoj geopolitičkoj klimi, dok se raskol između demokracije i autokracije produbljuje, ulozi za izborne dezinformacije nikada nisu bili veći. “Erozija povjerenja u integritet izbora nagriza povjerenje u samu demokraciju. Nalazimo se usred rastućeg globalnog fenomena u kojem se potkopava povjerenje u sva tri područja – informacije, izbore i demokratsko upravljanje. Ovo je inherentno prekogranični, globalni izazov”, zaključila je Eileen Donahoe, posebna izaslanica State Departmenta i koordinatorica za digitalnu slobodu.