Facebook zavedl nový algoritmus, který automaticky odstraňuje všechny falešné účty. Jak to funguje a koho se to týká
Možná Facebook konečně našel způsob, jak se zbavit falešných profilů a trollů různého druhu, a to extrémně složitou metodou zvanou "Deep Entity Classification" (DEC). Výsledky? Skvělé, podle Facebooku: 6,6 miliardy smazaných falešných profilů v roce 2019.
Úžasné výsledky, kromě toho jsou každý den miliony pokusů o vytvoření falešných profilů zlikvidovány v zárodku, opět díky společnosti DEC. Čísla, která nepřímo ukazují, jak obrovský je průmysl falešných profilů na sociálních sítích. Především Facebook, ale nejen ten. Facebook na tak velkou výzvu zareagoval stejně velkým algoritmem: uvnitř DEC je pro každý profil analyzováno více než 20 tisíc parametrů, aby bylo jisté, že nedochází ke smazání legitimního profilu, a zároveň aby bylo mnohem obtížnější algoritmus podvádět.
Facebook DEC: jak funguje
První "anti-fake" algoritmy Facebooku braly v úvahu několik parametrů, například množství žádostí o přátelství, které podezřelý profil v daném časovém období odeslal. Falešný profil nejprve odesílá rychlé žádosti uživatelům z celého světa. Pro odvětví falešných profilů však bylo snadné přeprogramovat strategii tak, že žádosti o přátelství šířili tak, aby filtr obešli. Pomocí DEC však Facebook bere v úvahu nejen síť přátel profilu a odeslané žádosti o přátelství, ale také stejné parametry, které se vztahují na kontakty analyzovaného profilu.
DEC také zkoumá členství profilu ve skupinách, jeho denní aktivitu, soukromé zprávy a mnoho dalších parametrů, aby se ujistil, že profil, který je cílem odstranění, je skutečně falešný.
Facebook DEC: rizikové chování
Facebook tvrdí, že odhadovaný počet falešných profilů na sociální síti dnes nepřesahuje 5 %, což je poněkud fyziologické a je to dáno tím, že nelze příliš zpřísnit algoritmus, jinak hrozí, že skutečné profily s podezřelým chováním zaniknou. V loňském roce například sociální síť vyřadila 900 falešných stránek, skupin a profilů, které používaly velmi sofistikované metody k šíření protrumpovské propagandy: profilové fotografie generované algoritmy umělé inteligence, komplexní síť simulovaných vztahů, interakcí, lajků a křížových sdílení a především řídicí centrum ve Vietnamu, které to vše řídilo. Takové chování je zjevně ohroženo a dříve či později by mělo být postiženo úderem sekery nové hluboké klasifikace subjektů.