ALARMANTNO! Više od milion ChatGPT korisnika nedeljno pokazuje samoubilačke namere

Prema navodima iz zvaničnog blog posta, procenjuje se da poruke s "eksplicitnim indikatorima potencijalnog samoubilačkog planiranja ili namere" čini značajan deo ukupnih interakcija korisnika.

Najdirektnije priznanje kompanije

To je jedno od najdirektnijih priznanja kompanije o mogućem uticaju veštačke inteligencije na mentalno zdravlje.

Kompanija je saopštila i da oko 0,07 odsto aktivnih korisnika nedeljno - što je približno 560.000 ljudi od oko 800 miliona korisnika, pokazuje moguće znake psihotičnih epizoda ili maničnog ponašanja.

U objavi se napominje da su takve procene početne i da ih je teško precizno kvantifikovati.

Analizirano više od 8.000 odgovora

Da bi poboljšala tačnost i etičke standarde u komunikaciji, OpenAI je angažovala 170 kliničara i stručnjaka za mentalno zdravlje iz svoje Globalne mreže lekara.

Oni su analizirali više od 1.800 odgovora modela u situacijama koje uključuju ozbiljne krize mentalnog zdravlja i pomogli u prilagođavanju sadržaja koji se odnosi na emocionalnu podršku.

Stručnjaci za mentalno zdravlje ranije su upozoravali da četbotovi mogu nehotice da podstaknu opasne misli potvrđujući korisnikove zablude ili negativna osećanja - fenomen poznat kao "ulizivanje".

Mehanizmi za bezbednost

Generalni direktor OpenAI, Sem Altman, rekao je ranije ovog meseca da je kompanija "napravila napredak u smanjenju rizika od ozbiljnih problema mentalnog zdravlja" i najavio ublažavanje određenih ograničenja u radu ChatGPT-a.

OpenAI je saopštio da će nastaviti da razvija mehanizme za bezbedniju upotrebu svojih modela i da sarađuje sa nezavisnim stručnjacima i regulatorima kako bi, kako navode, "AI alati postali podrška, a ne pretnja korisnicima u krizi".