Čovek zatražio pomoć od veštačke inteligencije, pa završio u ludnici

Šezdesetogodišnji muškarac, uveren da ga komšija tajno truje, obratio se AI čet-botu u potrazi za alternativom kuhinjskoj soli. Odgovor koji je dobio promenio mu je život i to ne na bolje.

 Opasan savet bez upozorenja

Na osnovu preporuke veštačke inteligencije, pacijent je običnu so zamenio natrijum-bromidom - supstancom koja se danas retko koristi. Nekada popularan lek za neurološke tegobe, bromid je poznat po tome što u većim količinama izaziva trovanje, odnosno bromizam.

 Veštački asistent nije ponudio nikakvo upozorenje o rizicima, niti je postavio dodatna pitanja o zdravstvenom stanju korisnika. Posledice su bile dramatične - od jakih halucinacija i paranoje, do prinudnog psihijatrijskog zadržavanja.

 Kako je došlo do trovanja

Bromizam je u prošlosti bio čest problem, naročito krajem 19. i početkom 20. veka, kada su bromidne soli bile deo lekova za epilepsiju i nesanicu. Danas je njihova upotreba strogo ograničena, a u SAD su još 1975. godine izbačene iz lekova koji se izdaju bez recepta.

U ovom slučaju, pogrešan savet AI-ja i potpuna odsutnost medicinskog nadzora doveli su do ozbiljnog oštećenja zdravlja. Pacijent je u bolnici provodio vreme u paranoičnom stanju, izbegavao ponuđenu vodu i destilovao sopstvenu, verujući da je otrovana.

Upozorenje korisnicima tehnologije

Medicinski tim koji je kasnije analizirao slučaj pokušao je da ponovi interakciju sa istim AI modelom i dobio isti obmanjujući savet. Ovaj incident pokazuje da i najnapredniji algoritmi mogu dati opasno pogrešne informacije kada nemaju uvid u medicinsku istoriju i kontekst.

 Stručnjaci upozoravaju: AI može biti koristan alat, ali nikada ne sme zameniti savet kvalifikovanog lekara. Posebno u oblasti zdravlja, granica između inovacije i rizika je tanka, a poverenje u tehnologiju bez provere može imati ozbiljnu cenu, prenosi 24 sedam.