Hrvatska pjevačica postala je nedavno prvom domaćom javnom žrtvom takozvanih nudify aplikacija. Pomoću aplikacije koja koristi umjetnu inteligenciju s njene fotografije u kupaćem kostimu uklonjen je – kupaći kostim. Aplikacije za obnaživanje postale su strahovito popularne. Oglašavanja “nudify usluga” na društvenim mrežama poraslo je za 2.400 posto, a na stranice takvih aplikacija mjesečno dođe 24 milijuna posjetitelja, po podacima analitičke kompanije Graphika.
I koliko god bilo loše što se takve aplikacije koriste za umjetno razodijevanje djevojaka i žena (neke funkcioniraju isključivo na fotografijama ženskih osoba), još je gore što se koriste za razodijevanje djece. Baš prošli mjesec je na 40 godina zatvora osuđen dječji psihijatar iz Sjeverne Karoline koji je fotografirao svoje male pacijente, a onda koristio takve aplikacije da s fotografija ukloni odjeću. Iako problem zvuči svjetski, itekako lokalnim ga čini nespremnost zakona na ovakve izazove.
Naš zakonodavac je posljednjim izmjenama Kaznenog zakona iz 2019. godine proširio definiciju dječje pornografije tako da uključuje i deepfake uratke, a 2021. je uvođenjem posebnog kaznenog djela pokrivena i osvetnička pornografija, ali na zloupotrebu umjetne inteligencije nije bio spreman.
Gole slike i slobodna volja
Umjetna inteligencija bilježi uzlet od otvaranja servisa ChatGPT. Razvijala se mnogo duže, ali tek je u posljednjih godinu dana većem broju ljudi omogućeno da eksperimentira s tom moćnom tehnologijom. Kao i sa svakim drugim otkrićem, neki su svoja znanja odlučili kanalizirali u lošem smjeru i, kako kažu u jednoj poznatoj humorističnoj seriji – u borbi protiv raka biti na strani raka. Takvi koriste AI za razvoj aplikacija s jedinom svrhom postizanja nezakonitog efekta. I to treba zaustaviti.
Kada sam uoči pisanja ovog teksta razgovarao s prijateljem iz djetinjstva, rekao mi je „pa može se to i Photoshopom“. Usporedba ne stoji jer, iako se i Photoshop uistinu može zloupotrijebiti, to mu nije jedina svrha. S druge strane, nudify aplikacije ne mogu biti korištene za nešto zakonito. Koja je to životna situacija u kojoj odjevena osoba želi biti razodjevena korištenjem AI-ja? Da to želi, puno jednostavnije je skinuti se i fotkati. Nije da ljudi to ne rade. Ali to čine slobodnom voljom.
Kad pogledamo tu relativno novu definiciju dječje pornografije iz našeg Kaznenog zakona, vidjet ćemo da obuhvaća „materijal koji vizualno ili na drugi način prikazuje pravo dijete ili realno prikazano nepostojeće dijete ili osobu koja izgleda kao dijete u pravom ili simuliranom spolno eksplicitnom ponašanju ili koji prikazuje spolne organe pravog djeteta ili realno prikazanog nepostojećeg djeteta ili osobe koja izgleda kao dijete u spolne svrhe“.
Članak se nastavlja ispod oglasa
Poziv na hitno djelovanje
Dva su dakle osnovna kriterija da bi nešto bilo dječja pornografija – dijete i njegovi spolni organi moraju biti pravi ili se mora raditi o nepostojećem djetetu koje je realno prikazano zajedno sa spolnim organima. Što nedostaje? Pravo dijete čiji spolni organi nisu pravi.
Nudify aplikacije u koje se unese fotografija odjevene osobe ili djeteta korištenjem umjetne inteligencije generiraju prikaz subjekta bez odjeće odnosno generiraju prikaz njihovih spolnih organa. Takva situacija u domaćem Kaznenom zakonu nije obuhvaćena. Nije niti mogla biti jer je tehnologija koja to omogućava posve nova, a aplikacije su stare tek nekoliko mjeseci, pa ovo nije kritika već poziv na djelovanje.
Više puta sam javno govorio da zakone ne treba prečesto mijenjati, ali ovo je iznimka. Kad su u pitanju prava kao što je dobrobit djeteta, pogotovo u vezi njegova privatnog života, ne smije postojati ni najmanja zakonska rupica koja bi omogućila digitalno traumatiziranje bilo kojeg najmlađeg člana društva.
Članak se nastavlja ispod oglasa
Pritom ne treba imati u vidu puko stvaranje takvog materijala, nego i njegovo dijeljenje po društvenim mrežama i aplikacijama za dopisivanje. Da bi sukladno Kaznenom zakonu takvo raspačavanje bilo kažnjivo, sam materijal mora biti nezakonit. Stoga je potrebno hitno proširiti definiciju dječje pornografije tako da obuhvaća i uratke nastale korištenjem nudify i njima sličnih aplikacija da preduhitrimo prvi takav domaći slučaj koji bi mogao proći nekažnjeno.
Zloglasne nudify aplikacije šire se i u Hrvatskoj. Dječju pornografiju treba hitno redefinirati
Prvi domaći slučaj korištenja nudify aplikacija na djeci mogao bi proći nekažnjeno
Više puta sam javno govorio da zakone ne treba prečesto mijenjati, ali ovo je iznimka. Kad je u pitanju dobrobit djeteta, pogotovo u privatnom životu, ne smije postojati ni najmanja zakonska rupica koja bi omogućila digitalno traumatiziranje bilo kojeg najmlađeg člana društva
Hrvatska pjevačica postala je nedavno prvom domaćom javnom žrtvom takozvanih nudify aplikacija. Pomoću aplikacije koja koristi umjetnu inteligenciju s njene fotografije u kupaćem kostimu uklonjen je – kupaći kostim. Aplikacije za obnaživanje postale su strahovito popularne. Oglašavanja “nudify usluga” na društvenim mrežama poraslo je za 2.400 posto, a na stranice takvih aplikacija mjesečno dođe 24 milijuna posjetitelja, po podacima analitičke kompanije Graphika.
I koliko god bilo loše što se takve aplikacije koriste za umjetno razodijevanje djevojaka i žena (neke funkcioniraju isključivo na fotografijama ženskih osoba), još je gore što se koriste za razodijevanje djece. Baš prošli mjesec je na 40 godina zatvora osuđen dječji psihijatar iz Sjeverne Karoline koji je fotografirao svoje male pacijente, a onda koristio takve aplikacije da s fotografija ukloni odjeću. Iako problem zvuči svjetski, itekako lokalnim ga čini nespremnost zakona na ovakve izazove.
Naš zakonodavac je posljednjim izmjenama Kaznenog zakona iz 2019. godine proširio definiciju dječje pornografije tako da uključuje i deepfake uratke, a 2021. je uvođenjem posebnog kaznenog djela pokrivena i osvetnička pornografija, ali na zloupotrebu umjetne inteligencije nije bio spreman.
Gole slike i slobodna volja
Umjetna inteligencija bilježi uzlet od otvaranja servisa ChatGPT. Razvijala se mnogo duže, ali tek je u posljednjih godinu dana većem broju ljudi omogućeno da eksperimentira s tom moćnom tehnologijom. Kao i sa svakim drugim otkrićem, neki su svoja znanja odlučili kanalizirali u lošem smjeru i, kako kažu u jednoj poznatoj humorističnoj seriji – u borbi protiv raka biti na strani raka. Takvi koriste AI za razvoj aplikacija s jedinom svrhom postizanja nezakonitog efekta. I to treba zaustaviti.
Kada sam uoči pisanja ovog teksta razgovarao s prijateljem iz djetinjstva, rekao mi je „pa može se to i Photoshopom“. Usporedba ne stoji jer, iako se i Photoshop uistinu može zloupotrijebiti, to mu nije jedina svrha. S druge strane, nudify aplikacije ne mogu biti korištene za nešto zakonito. Koja je to životna situacija u kojoj odjevena osoba želi biti razodjevena korištenjem AI-ja? Da to želi, puno jednostavnije je skinuti se i fotkati. Nije da ljudi to ne rade. Ali to čine slobodnom voljom.
Kad pogledamo tu relativno novu definiciju dječje pornografije iz našeg Kaznenog zakona, vidjet ćemo da obuhvaća „materijal koji vizualno ili na drugi način prikazuje pravo dijete ili realno prikazano nepostojeće dijete ili osobu koja izgleda kao dijete u pravom ili simuliranom spolno eksplicitnom ponašanju ili koji prikazuje spolne organe pravog djeteta ili realno prikazanog nepostojećeg djeteta ili osobe koja izgleda kao dijete u spolne svrhe“.
Poziv na hitno djelovanje
Dva su dakle osnovna kriterija da bi nešto bilo dječja pornografija – dijete i njegovi spolni organi moraju biti pravi ili se mora raditi o nepostojećem djetetu koje je realno prikazano zajedno sa spolnim organima. Što nedostaje? Pravo dijete čiji spolni organi nisu pravi.
Nudify aplikacije u koje se unese fotografija odjevene osobe ili djeteta korištenjem umjetne inteligencije generiraju prikaz subjekta bez odjeće odnosno generiraju prikaz njihovih spolnih organa. Takva situacija u domaćem Kaznenom zakonu nije obuhvaćena. Nije niti mogla biti jer je tehnologija koja to omogućava posve nova, a aplikacije su stare tek nekoliko mjeseci, pa ovo nije kritika već poziv na djelovanje.
Više puta sam javno govorio da zakone ne treba prečesto mijenjati, ali ovo je iznimka. Kad su u pitanju prava kao što je dobrobit djeteta, pogotovo u vezi njegova privatnog života, ne smije postojati ni najmanja zakonska rupica koja bi omogućila digitalno traumatiziranje bilo kojeg najmlađeg člana društva.
Pritom ne treba imati u vidu puko stvaranje takvog materijala, nego i njegovo dijeljenje po društvenim mrežama i aplikacijama za dopisivanje. Da bi sukladno Kaznenom zakonu takvo raspačavanje bilo kažnjivo, sam materijal mora biti nezakonit. Stoga je potrebno hitno proširiti definiciju dječje pornografije tako da obuhvaća i uratke nastale korištenjem nudify i njima sličnih aplikacija da preduhitrimo prvi takav domaći slučaj koji bi mogao proći nekažnjeno.