Nekada se govorilo da fotografija vrijedi tisuću riječi, a videosnimka predstavlja nepobitan dokaz. Danas to više nije uvijek istina. Razvoj umjetne inteligencije doveo je do trenutka u kojem ono što vidimo i čujemo može biti potpuno uvjerljivo, a da nikada nije postojalo u stvarnosti.
Piše: Zoran Hardi, stručnjak za računalnu sigurnost i umjetnu inteligenciju
To nije scenarij iz znanstvene fantastike. To je stvarnost s kojom se već susreću građani, tvrtke i državne institucije diljem svijeta.
Posljednjih godina zabilježeni su slučajevi u kojima su zaposlenici velikih kompanija sudjelovali u videokonferencijama za koje su vjerovali da ih vode njihove kolege ili nadređeni. Lica su izgledala stvarno, glasovi su bili poznati, razgovor je tekao prirodno, a zahtjevi su djelovali uobičajeno. Tek nakon što su izvršene financijske transakcije otkriveno je da su sudionici sastanka bili digitalno stvoreni pomoću umjetne inteligencije.
Zabilježeni su i slučajevi u kojima je zaposlenik primio telefonski poziv osobe čiji je glas bio gotovo identičan glasu njegovog nadređenog. Zbog osjećaja hitnosti i povjerenja izvršena je uplata, a tek kasnije se pokazalo da je korištena tehnologija kloniranja glasa. Ono što je nekada zahtijevalo skupu opremu i tjedne rada, danas se može napraviti uz pomoć dostupnih AI alata.
Slične metode koriste se i u investicijskim prijevarama. Na internetu se pojavljuju oglasi koji izgledaju kao sadržaj ozbiljnih medija ili profesionalnih financijskih platformi. Građanima se obećavaju sigurna ulaganja, velika zarada ili brz povrat novca. Nakon prve prijave slijedi poziv navodnog savjetnika koji postupno stječe povjerenje žrtve. Uplate se povećavaju, prikazuje se lažna dobit, a kada korisnik poželi isplatiti novac, pojavljuju se novi troškovi, naknade ili porezi. Na kraju novac nestaje, a kontakt prestaje.
Ni društvene mreže nisu pošteđene. Sve je više profila osoba koje izgledaju potpuno stvarno, imaju uvjerljive fotografije, redovito objavljuju sadržaj i komuniciraju s pratiteljima. Problem je što takve osobe uopće ne postoje. Njihova lica, glasovi i identiteti nastali su pomoću umjetne inteligencije. Takvi profili mogu služiti za prikrivene reklamne kampanje, financijske prijevare, širenje dezinformacija ili manipuliranje javnim mišljenjem.
Posebno zabrinjava sve češća pojava umjetnom inteligencijom generiranih fotografija i videosnimaka velikih katastrofa, požara, poplava, potresa ili ratnih događaja. Takav sadržaj često se objavljuje upravo u trenucima kada građani traže informacije i pokušavaju saznati što se događa. Emotivne i dramatične snimke šire se velikom brzinom društvenim mrežama, izazivajući strah, paniku i nesigurnost. U mnogim slučajevima tek se naknadno utvrdi da prizori nikada nisu postojali ili da su digitalno izmijenjeni. Problem je što se lažna vijest u međuvremenu već proširila milijunima korisnika, a ispravak uvijek dolazi prekasno.
Takve manipulacije mogu imati ozbiljne posljedice. Osim što stvaraju paniku među građanima, mogu otežati rad hitnih službi, izazvati nepotrebne evakuacije, potaknuti širenje dezinformacija i narušiti povjerenje u službene izvore informiranja. Upravo zbog toga stručnjaci upozoravaju da će provjera autentičnosti fotografija i videosnimaka postati jedan od najvećih izazova digitalnog društva.
Najveći problem nije sama tehnologija. Umjetna inteligencija može donijeti brojne koristi u medicini, obrazovanju, znanosti i gospodarstvu. Problem nastaje kada se koristi za manipulaciju ljudima, krađu identiteta, financijske prijevare ili stvaranje lažnog osjećaja povjerenja.
Zbog toga ulazimo u razdoblje u kojem više neće biti dovoljno vjerovati fotografiji, videosnimci ili glasu. Svaka važna informacija morat će se provjeravati iz više neovisnih izvora. Posebno kada se od građana traži uplata novca, dijeljenje osobnih podataka ili donošenje hitne odluke.
Digitalna pismenost više neće značiti samo znati koristiti računalo ili pametni telefon. Značit će razumjeti kako nastaje digitalni sadržaj, kako funkcionira umjetna inteligencija i kako prepoznati pokušaje manipulacije.
Umjetna inteligencija će nastaviti napredovati i postajati sve uvjerljivija. Upravo zato najveća odgovornost neće biti samo na tehnološkim tvrtkama i institucijama, nego i na svakome od nas. U vremenu kada se stvarnost može proizvesti jednim klikom, najvažnija zaštita nije nepovjerenje prema tehnologiji, nego razvijanje navike provjere informacija prije nego što im povjerujemo ili ih podijelimo s drugima.
Jer u digitalnom dobu najveća opasnost više nije samo lažna informacija. Najveća opasnost je trenutak kada laž izgleda toliko uvjerljivo da joj povjerujemo bez razmišljanja.
Fenix-magazin/SČ/Zoran Hardi
