Gmail upozorio 1,8 milijarde korisnika: Ako ste jedan od njih, pazite se ovoga

U detaljnom blog postu, Google je otkrio novu vrstu pretnje svojoj globalnoj korisničkoj bazi: indirektne promptove. Za razliku od konvencionalnih hakerskih taktika koje vas navode da otkrijete svoje informacije putem lažnih veb lokacija ili sumnjivih linkova, ova koristi AI alate na koje se sada oslanjamo.

Ovi skriveni promptovi mogu manipulisati generativnim AI sistemima, poput onih ugrađenih u vaše mejlove ili ekstenzije pregledača, i da deluju u ime napadača. To znači da bi vaš AI asistent integrisan u Gmail, teoretski, mogao biti prevaren da prosleđuje vaše poruke, deli vaš kalendar ili druge lične detalje - sve bez vašeg znanja ili pristanka.

 Kako izgleda napad

Nova metoda koristi način na koji AI obrađuje ulaz iz naizgled benignih izvora. Na primer, kada primite neki Google dokument, vaši AI alati ga automatski skeniraju. Skriveni prompt u dokumentu "prevari" AI da se ponaša zlonamerno - možda šalje vaše privatne podatke na eksterni server ili kopira osetljive informacije u drugi dokument.

 Najgore je što možda nikada nećete shvatiti da se išta i dogodilo.

 "Ovaj suptilan, ali potencijalno moćan napad postaje sve češći širom industrije, posebno jer sve više ljudi usvaja AI alate u svakodnevne radne tokove", saopštio je Google.

 Pretnju čini posebno opasnom sledeće:

 Nije potrebna interakcija korisnika. Ne morate ništa da kliknete.

Nema instaliranog malvera. AI obavlja posao, misleći da vam pomaže.

Može biti nevidljiva. Akcije se možda čak neće pojaviti u vašem logu aktivnosti.

Šta vi možete da uradite

Iako će potpuno rešenje verovatno zahtevati promene od strane tehnoloških kompanija i AI dobavljača, svakodnevni korisnici nisu bespomoćni. Evo nekoliko koraka koje možete preduzeti:

 Budite oprezni sa deljenim dokumentima i pozivnicama za kalendar, posebno od nepoznatih kontakata.

Izbegavajte ekstenzije trećih strana ili dodatke koji tvrde da integrišu AI, osim ako ne verujete izvoru.

Onemogućite nepotrebne AI funkcije u podešavanjima Gmail-a ili Docs-a ako ih ne koristite često.

Redovno pregledajte dozvole naloga i logove aktivnosti putem podešavanja vašeg Google naloga.

Pored ovoga, naravno, održavajte do sad najbolje dokazane prakse: dvofaktorsku autentifikaciju, jake, unikatne lozinke i pazite na neobično ponašanje ili obaveštenja, prenosi B92.