Ljudi više veruju pravnom savetu ChatGPT-a nego advokatima?

To je ključno otkriće novog istraživanja, koje ističe važne zabrinutosti u vezi sa sve većim oslanjanjem javnosti na sadržaj koji generiše veštačka inteligencija. Takođe je otkriveno da javnost barem donekle može da prepozna da li savet dolazi od ChatGPT-a ili od advokata.

Alati zasnovani na veštačkoj inteligenciji, poput ChatGPT-a i drugih velikih jezičkih modela (LLM), sve više postaju deo svakodnevice. Obećavaju brze odgovore, generisanje ideja, prepoznavanje medicinskih simptoma, pa čak i pomoć pri rešavanju pravnih pitanja kroz konkretne savete.

Međutim, poznato je da LLM-ovi stvaraju tzv. „halucinacije” – sadržaje koji sadrže netačne ili besmislene informacije. To znači da postoji stvarni rizik ako se ljudi previše oslone na njih, posebno u oblastima visokog rizika, kao što je pravo. LLM-ovi često iznose savete sa velikom sigurnošću, što otežava razlikovanje dobrog saveta od lošeg, ali samouvereno izrečenog.

Sprovedena su tri eksperimenta na ukupno 288 ispitanika. U prva dva, učesnicima je dat pravni savet, a zatim su upitani na koji bi bili spremni da se oslone. Kada nisu znali da li savet dolazi od advokata ili AI-ja, češće su birali savet koji je generisala veštačka inteligencija. To znači da, ukoliko AI pruži pravni savet bez otkrivanja svog identiteta, ljudi ga mogu prihvatiti kao činjenicu i čak ga više ceniti od stručnog saveta advokata – verovatno ne preispitujući njegovu tačnost.

Čak i kada su učesnici znali koji je savet dao advokat, a koji ChatGPT, otkrili smo da su podjednako bili spremni da slede oba.

Jedan od razloga zbog kojih se LLM-ovi možda više cene, kako pokazuje naše istraživanje, jeste taj što koriste složeniji jezik.

S druge strane, pravi advokati su koristili jednostavniji jezik, ali su odgovori bili duži. Treći eksperiment ispitao je da li učesnici mogu da razlikuju savet AI-ja i advokata kada im izvor nije poznat. Dobra vest je da mogu – ali ne mnogo uspešno.

U ovom zadatku, nasumično pogađanje bi dalo rezultat 0,5, dok bi savršeno prepoznavanje bilo 1,0. Prosečan rezultat učesnika bio je 0,59, što je malo iznad nasumičnog pogađanja, ali i dalje relativno slabo.

Regulacija i pismenost u oblasti veštačke inteligencije

Ovo je ključan trenutak za istraživanja poput našeg, jer se sistemi koji koriste veštačku inteligenciju, poput četbotova i LLM-ova, sve više integrišu u svakodnevni život. Alexa i Google Home funkcionišu kao kućni asistenti, dok AI sistemi pomažu u složenim zadacima poput online kupovine, sažimanja pravnih tekstova ili izrade medicinske dokumentacije.

Međutim, s tim dolazi i značajan rizik donošenja potencijalno sudbonosnih odluka koje se zasnivaju na netačnim ili izmišljenim informacijama. Kada je reč o pravu, AI-generisani saveti mogu izazvati nepotrebne komplikacije ili čak pravne greške i nepravdu.

Zato je danas važnije nego ikada da se AI pravilno reguliše. Dosadašnji pokušaji uključuju Zakon o veštačkoj inteligenciji Evropske unije, čiji član 50.9 predviđa da tekstovi koje generiše AI moraju biti „označeni u mašinski čitljivom formatu i prepoznatljivi kao veštački generisani ili izmenjeni”.

Ali to je samo deo rešenja. Takođe mora se unaprediti pismenost u oblasti AI-ja, kako bi ljudi znali da kritički procene sadržaj. Kada javnost bude bolje obučena da prepozna sadržaj koji generiše AI, moći će da donosi informisanije odluke.

To znači da moramo naučiti da preispitamo izvor saveta, razumemo mogućnosti i ograničenja AI-ja i naglasimo važnost kritičkog mišljenja i zdravog razuma u interakciji s takvim sadržajem. U praksi to podrazumeva proveru važnih informacija iz pouzdanih izvora i uključivanje ljudskih stručnjaka kako bismo izbegli preveliko oslanjanje na AI.

Kada je reč o pravnim savetima, upotreba AI-ja može biti korisna za neka početna pitanja: „Koje su moje opcije? Šta bi trebalo da proučim? Postoje li slični slučajevi?” Ali je od suštinske važnosti da se ti saveti provere kod pravog advokata – i to mnogo pre nego što se ode na sud ili preduzmu bilo kakve konkretne radnje.

Veštačka inteligencija može biti vredan alat, ali samo ako se koristi odgovorno. Primenom dvostrukog pristupa – regulacijom i obrazovanjem – možemo iskoristiti sve njene prednosti, a da pri tom umanjimo rizike.