gHacks upozornil na funkciu Scam Alert, ktorú WhatsApp skúša. Má v konverzácii označiť správu, ktorá vyzerá na podvod. Hneď na úvod ale jedna vec, ktorá sa v titulkoch stráca: je to zatiaľ obmedzená beta.
Testuje sa s výskumníkmi z komunity Bug Bounty, ktorú WhatsApp prevádzkuje. Termín širšieho vydania firma neuviedla a nepovedala ani to, ktoré krajiny to dostanú prvé. Takže na telefóne to zatiaľ pravdepodobne nemáte a chvíľu mať nebudete.
Napriek tomu stojí za to vedieť, ako to má fungovať. Podvodné správy sú u nás bežná vec a čokoľvek, čo ich označí skôr, než na ne človek klikne, má zmysel sledovať.
Kontrola prebieha len pri správach od ľudí mimo vášho zoznamu kontaktov. Konverzácie s rodinou, kolegami alebo kýmkoľvek, koho už máte uloženého, teda model nepozerá vôbec. Je to rozumné obmedzenie, aj keď zároveň znamená, že na prevzatý účet známeho to nepomôže.
Model beží v telefóne a obsah správ z neho neodchádza
Rozpoznávanie robí model strojového učenia priamo v zariadení. Podľa WhatsAppu obsah správ neopúšťa telefón kvôli analýze a automaticky sa nikam nehlási. V telefóne zostáva aj samotný model. Funguje to popri koncovom šifrovaní, ktoré tým nie je dotknuté.
Model je natrénovaný na konverzáciách, ktoré používatelia sami nahlásili ako podvod. Kontroluje správy od ľudí, ktorých nemáte v kontaktoch, a posudzuje dve veci: jazyk správy a stavbu konverzácie. Nejde teda o zoznam zakázaných slov, ale o vzor, ako podvodná konverzácia obvykle prebieha.
Keď model nadobudne podozrenie, v konverzácii sa objaví upozornenie s tromi možnosťami: zablokovať, nahlásiť alebo pokračovať. To je podstatný detail. Rozhodnutie zostáva na človeku a phishing sa neblokuje automaticky.
Že model pozerá na stavbu konverzácie, a nie len na jednotlivé slová, je pri podvodoch podstatné. Typická podvodná správa nemusí obsahovať nič nápadné; nápadný býva až priebeh, teda ako rýchlo sa neznámy človek dostane k naliehavej prosbe alebo k odkazu.
Čo robiť, keď sa upozornenie objaví omylom
Ak je varovanie chybné, dá sa konverzácia označiť za dôveryhodnú a Scam Alert ju už znova neoznačí. Pri tom sa dá dobrovoľne poslať WhatsAppu posledných päť správ na zlepšenie presnosti. Toto je jediné miesto, kde obsah správ zo zariadenia odchádza, a je to voľba, nie predvolený stav.
Celá funkcia je voliteľná a dá sa kedykoľvek vypnúť v nastaveniach. Keď sa k vám dostane, oplatí sa tam pozrieť a rozhodnúť sa vedome, či ju chcete zapnutú. Predvolené správanie totiž zvyknú ľudia nechať tak, a to platí v oboch smeroch.
Nie je to prvý krok tohto druhu. V marci Meta oznámila, že WhatsApp bude upozorňovať na podozrivú žiadosť o prepojenie zariadenia. Práve prepojenie cez škodlivý QR kód alebo zdieľaný kód je bežný spôsob, ako útočníci preberajú cudzie účty, aj na Androide.
Dva mesiace pred tým spustil WhatsApp Strict Account Settings, teda sprísnený režim pre novinárov a verejne známe osoby. Ide o inú triedu ohrozenia než bežný podvod, ale smer je rovnaký: zastaviť útok skôr, než sa človek s útočníkom vôbec porozpráva.
Že to WhatsApp rieši, dáva zmysel už z rozsahu. Používa ho vyše 3 miliardy ľudí vo viac než 180 krajinách, takže je to pre podvodníkov najväčší jediný kanál, aký existuje.
Ostáva otázka, ako presne to bude fungovať v slovenčine. Model postavený na jazyku a stavbe konverzácie je citlivý na to, koľko dát v danom jazyku má, a WhatsApp o jazykoch nehovorí nič. Kým sa funkcia neobjaví u nás, je to vec, na ktorú si netrúfam tipovať.
