Europska unija mijenja dio pravila o umjetnoj inteligenciji, ali iza pravnih izraza krije se vrlo stvaran ljudski problem: lažne intimne fotografije, videozapisi i zvučni zapisi koji se stvaraju bez pristanka osobe.
Piše: Zoran Hardi, stručnjak za računalnu sigurnost i umjetnu inteligenciju
Akt o umjetnoj inteligenciji već je na snazi kao uredba Europske unije, što znači da se izravno primjenjuje u državama članicama. Sada se njegove pojedine odredbe dodatno mijenjaju kako bi se jasnije odgovorilo na zloupotrebe koje su se posljednjih godina naglo proširile.
Europski parlament je 16. lipnja 2026. odobrio izmjene kojima se zabranjuju sustavi koji mogu stvarati materijal seksualnog zlostavljanja djece ili intimni sadržaj stvarne, prepoznatljive osobe bez njezina pristanka. To uključuje alate koji od obične fotografije mogu napraviti lažan seksualizirani prikaz.
Povod za pooštravanje pravila nisu bile pravne teorije, nego stvarni slučajevi. U posljednje vrijeme pojavili su se alati koji su od običnih fotografija — često fotografija žena i maloljetnica — stvarali lažne seksualizirane prikaze. Takvi su slučajevi u nekoliko europskih država pokrenuli istrage i kaznene postupke.
Napad na dostojanstvo
Na papiru to zvuči tehnički. U stvarnom životu to je napad na dostojanstvo.
Problem nije samo u tome što je slika lažna. Problem je u tome što žrtva na toj slici vidi sebe, a drugi ljudi mogu povjerovati da je sadržaj stvaran. Dovoljno je jedno lice, jedno ime i jedna fotografija s društvenih mreža da osoba izgubi osjećaj kontrole nad vlastitim identitetom.
Takav sadržaj ne ostaje samo na internetu. On ulazi u školu, posao, obitelj, prijateljstva i odnose. Ono što je za počinitelja možda “klik” ili “šala”, za žrtvu može postati dugotrajan osjećaj srama, straha i nemoći.
Posebno su ranjivi mladi. Među vršnjacima se sram širi brzo. Jedna slika može u nekoliko minuta doći do cijelog razreda, sportskog kluba ili obitelji. Čak i kada se kasnije dokaže da je sadržaj lažan, šteta često već postoji.
Zašto netko to radi? Najčešće zbog osvete, poniženja, ucjene, zarade ili potrebe za kontrolom. Kod mladih se ponekad pojavljuje i opasno opravdanje da se “samo zezaju”. No digitalno nasilje ne postaje manje ozbiljno zato što se počinitelj skriva iza ekrana.
Tehnologija ne smije biti izgovor za ponižavanje čovjeka
U pozadini je često ista poruka: netko želi imati moć nad tuđim tijelom, ugledom i strahom. Zakonodavci koji su predložili zabranu upozorili su da takav sadržaj pogađa prije svega žene i da mu je svrha poniziti ih i svesti na objekt. Kada se bez pristanka stvori ili podijeli intimni sadržaj druge osobe, ne napada se samo privatnost. Napada se sigurnost osobe i njezino pravo da sama odlučuje o svom identitetu.
Zato su izmjene europske uredbe važne. One šalju jasnu poruku da tehnologija ne smije biti izgovor za ponižavanje čovjeka. Tvrtke i pružatelji sustava koji omogućuju takve zloupotrebe morat će ugraditi stvarne zaštitne mjere ili se suočiti s ozbiljnim posljedicama.
Više zanimljivosti: TEŠKO ĆETE DOBITI OTKAZ: Ovo su poslovi koje neće zamijeniti umjetna inteligencija i automatizacija
Kazne za zabranjene prakse prema Aktu o umjetnoj inteligenciji mogu doseći 35 milijuna eura ili do 7 posto ukupnog svjetskog godišnjeg prometa tvrtke, ovisno o tome koji je iznos veći. Time Europska unija jasno pokazuje da ovo ne promatra kao manji tehnički propust, nego kao ozbiljno kršenje pravila.
Važno je razlikovati odgovornost sustava i odgovornost pojedinca. Europska uredba prije svega cilja platforme, tvrtke i pružatelje alata. No osoba koja lažni intimni sadržaj izradi, podijeli ili koristi za ucjenu može odgovarati i prema nacionalnim pravilima o privatnosti, zaštiti osobnosti, uznemiravanju, spolnom nasilju i zaštiti djece.
Ovo je trenutak u kojem društvo mora prestati podcjenjivati digitalno nasilje. Nasilje nije manje stvarno zato što se dogodilo preko ekrana. Sram nije manji zato što je slika umjetno stvorena. Strah nije manji zato što počinitelj tvrdi da se samo šalio.
Umjetna inteligencija može pomagati liječnicima, učiteljima, istraživačima i običnim građanima. Ali ne smije postati alat za uništavanje nečijeg dostojanstva. Tehnologija koja čovjeka pretvara u metu nije napredak. To je staro nasilje u novom obliku.
Ljudsko lice nije materijal za tuđu osvetu. Nečije tijelo nije prostor za digitalno poigravanje. Pristanak nije sitnica, nego granica.
Zato lažni intimni sadržaj nije samo tehnološki problem. To je ljudski problem. I kao takav mora imati jasnu zakonsku, društvenu i moralnu granicu.
Fenix-magazin/MD/Zoran Hardi
