Algoritmus dokáže rozpoznat falešné účty analýzou dat zveřejněných uživateli
WhatsApp zablokoval více než 2 miliony účtů, aby zabránil šíření falešných a nebezpečných zpráv v Indii. Společnost ovládaná Facebookem uvedla, že 95 procent těchto uživatelů bylo zablokováno kvůli porušení limitů počtu přeposlání zpráv v asijské zemi.
Tato operace je model, který lze použít i v jiných zemích, například v Itálii, vzhledem k tomu, že díky stejné technologii, jaká se používá v Indii, je WhatsApp již nyní schopen rozpoznat a zablokovat osm milionů falešných účtů měsíčně po celém světě z celkového počtu 2 miliard aktuálně aktivních účtů.
Falešné zprávy si v Indii už vyžádaly oběti na životech
V Indii, kde má WhatsApp s více než 400 miliony předplatitelů největší počet uživatelů, je šíření falešných zpráv a nepodložených fám obrovským společenským problémem. Mnoho lidí se totiž spoléhá na aplikaci pro zasílání zpráv, aby se informovali o aktuálním dění a novinkách o Covidu-19, a když se falešné zprávy rozšíří, mohou se během několika hodin dostat k desítkám tisíc uživatelů a zmařit veškeré pokusy o potírání jejich šíření.
V minulosti některé falešné zprávy a videa, které v zemi kolovaly bez kontroly, vyvolaly řadu násilných incidentů a v roce 2018 dokonce způsobily smrt šesti lidí, kteří byli v několika indických státech falešně obviněni z únosu dětí. Nebezpečná situace přiměla společnost WhatsApp v dubnu 2020 omezit sdílení jedné zprávy na maximálně pět osob v Indii, což přimělo miliony uživatelů k vytvoření sekundárních účtů, aby zvýšili "viralitu" zpráv.
Smazání účtů, které proběhlo mezi 15. květnem a 15. červnem, mělo proto omezit šíření zpráv prostřednictvím těchto falešných účtů. Společnost uvedla, že tento krok se týká pouze těch, kteří odeslali "vysoký a neobvyklý počet zpráv" s neověřenými zprávami, fotografiemi a videi.
WhatsApp se často dostává do centra kontroverzí kvůli šíření falešných zpráv a sdílení citlivých údajů v Indii, kde v současné době probíhá ostrý spor s vládou v Dillí kvůli novým zákonům, které od května vyžadují, aby vývojáři aplikací pro zasílání zpráv nahlásili původního odesílatele zprávy, která byla přeposlána opakovaně. Podle společnosti WhatsApp to velmi poškozuje soukromí a svobodu jejích uživatelů, zatímco Nové Dillí tvrdí, že pravidla mají zabránit zneužívání a dezinformacím.
Soukromí a falešné zprávy: jak WhatsApp odhaluje falešné účty
K odhalování falešných účtů použila společnost Facebook umělou inteligenci. Algoritmus analyzoval chování uživatelů, aniž by četl obsah soukromých konverzací, které jsou chráněny šifrováním end-to-end.
Program analyzoval zejména všechny veřejné údaje uživatelů, jako je počet, profilová fotografie a fráze statusů WhatsApp, zaznamenával počet přeposlání a sdílení zpráv a shromažďoval hlášení o spamu a blokacích mezi uživateli. Tato operace však vyvolává otázky ohledně ochrany osobních údajů a skutečné důvěrnosti zpráv vyměňovaných v chatech a skupinách.