Sud u američkoj saveznoj državi Mississippi sankcionirao je odvjetnike nakon što su u službenim sudskim podnescima koristili pravne izvore koje je generirala umjetna inteligencija, a za koje se kasnije pokazalo da ne postoje.
Piše: Zoran Hardi, stručnjak za računalnu sigurnost i umjetnu inteligenciju
Prema odluci suda, problem nije bio u tome što je korištena umjetna inteligencija, nego u tome što odvjetnici nisu provjerili točnost podataka prije nego što su ih predali sudu. U podnescima su se pojavile nepostojeće presude i pravni navodi, što je sud ocijenio ozbiljnim profesionalnim propustom.
Slučaj je izazvao veliku pozornost jer su umjetnu inteligenciju koristile obje strane u postupku. Time je otvoreno pitanje koliko se stručnjaci mogu oslanjati na alate koji stvaraju tekst, osobito u područjima u kojima svaka pogreška može imati ozbiljne posljedice.
Tekst izgleda potpuno uvjerljivo
Generativna umjetna inteligencija može napisati tekst koji izgleda potpuno uvjerljivo. Problem je što uvjerljivost ne znači i točnost. Jedan od najvećih nedostataka ovih sustava jest pojava takozvanih “halucinacija”, kada umjetna inteligencija stvara podatke, navode ili izvore koji zvuče vjerodostojno, ali zapravo nikada nisu postojali.
U pravosuđu takva pogreška može imati ozbiljne posljedice. Sudske odluke, zakoni i pravni izvori moraju biti provjerljivi. Ako se u službenom podnesku navede presuda koja ne postoji, ne radi se samo o tehničkoj pogrešci, nego o narušavanju vjerodostojnosti cijelog postupka.
Ovaj slučaj pokazuje da umjetna inteligencija sve više postaje dio profesionalnog rada, ali i da mnogi korisnici još uvijek ne razumiju njezina ograničenja. Može pomoći u pripremi nacrta, analizi velike količine podataka i ubrzavanju administrativnih poslova, ali ne može zamijeniti stručnu provjeru.
Odgovornost na kraju uvijek ostaje na čovjeku. Odvjetnik ne može odgovornost prebaciti na algoritam, kao što to ne može učiniti ni liječnik, inženjer ili bilo koji drugi stručnjak koji donosi odluke na temelju informacija dobivenih pomoću umjetne inteligencije.
Više zanimljivosti: NJEMAČKA POZIVA SVE VLASNIKE MOBITELA: Do 1. srpnja prijavite “crne rupe”
Slučaj iz Mississippija zato nije samo zanimljiv pravni presedan. On je upozorenje svim profesijama koje sve više koriste umjetnu inteligenciju u svakodnevnom radu. Tehnologija može biti iznimno koristan pomoćnik, ali samo ako se njezini rezultati provjeravaju jednako pažljivo kao i svaki drugi izvor informacija.
Kako uporaba umjetne inteligencije bude rasla, ovakvi će slučajevi vjerojatno postajati sve češći. Upravo zato stručnost više neće značiti samo znati koristiti nove tehnologije, nego i znati prepoznati njihove pogreške prije nego što one postanu dio službenih odluka.
Fenix-magazin/MD/Zoran Hardi
