Zloćudni chat bot: 4 milona korisnika Telegrama u opasnosti

Na platformama kao što je Telegram, korisnici mogu uz nekoliko klikova kreirati eksplicitne fotografije stvarnih osoba. Ovi "deepfake" sadržaji izazivaju zabrinutost zbog potencijalnih posledica, naročito po mlade devojke i žene.

Prema izveštaju magazina Wired, na Telegramu je otkriveno na desetine četbotova koji omogućavaju kreiranje takvih slika, a procenjuje se da oko 4 miliona korisnika mesečno koristi ove botove. Neki od ovih botova mogu ukloniti odeću sa fotografija koje korisnici dostave, dok drugi generišu eksplicitne slike osoba u kompromitujućim situacijama.

Stručnjak za deepfake tehnologiju, Henri Adžder, izrazio je zabrinutost zbog porasta broja korisnika koji aktivno učestvuju u kreiranju ovog sadržaja. On je rekao da je situacija "veoma zabrinjavajuća, ovo je košmar" jer su ove tehnologije dostupne na površinskom internetu i lako dostupne kroz popularne aplikacije kao što je Telegram.

Iako su mnoge poznate ličnosti, poput Tejlor Svift i Džene Ortege, već postale žrtve ovakvih deepfake sadržaja, zabrinjavajuće je što su sve češće i mlade devojke meta ovih zloupotreba. U nekim slučajevima, takve slike su korišćene u slučajevima iznuđivanja ("sextortion"), što dodatno pojačava problem.

Napredak u AI tehnologiji omogućio je širenje ovih deepfake sajtova, ali su vlasti počele da se bore protiv njih. Na primer, u avgustu je kancelarija tužioca San Franciska podnela tužbu protiv više od desetak sajtova koji nude ove usluge. Uprkos ovim naporima, čini se da borba sa ovim fenomenom tek počinje.

Kada je Wired kontaktirao Telegram zbog sadržaja vezanog za četbotove, kompanija nije odgovorila, ali su botovi i povezani kanali brzo nestali. Međutim, kreatori su najavili povratak, što ukazuje na to koliko je teško suzbiti ovakve aktivnosti.

Elena Mihale, direktorka organizacije #NotYourPorn, naglašava kako je teško pratiti i kontrolisati ove aplikacije na Telegramu. Ona ističe da je teret praćenja ovih aktivnosti na kraju na pojedincima, dok bi odgovornost trebalo da bude na kompanijama da proaktivno spreče ovakvu zloupotrebu.

Iako je kreiranje i distribucija eksplicitnih sadržaja bez pristanka zabranjeno u mnogim državama, stručnjaci navode da su pravila Telegrama o ovoj vrsti sadržaja nejasna. Pored toga, optužbe protiv direktora Telegrama, Pavela Durova, ukazuju na problematičnu praksu u upravljanju platformom, iako on tvrdi da kompanija sarađuje sa vlastima kada je to potrebno.

Eksperti veruju da Telegram snosi odgovornost za omogućavanje ovakvih aktivnosti, budući da platforma pruža alatke koje omogućavaju pronalaženje, deljenje i kreiranje ovih eksplicitnih sadržaja.