Facebook využil pomoci analytické společnosti pro sociální média k odstranění falešných profilů a našel některé s počítačově generovanými fotografiemi
Facebook tvrdě zasahuje proti falešným profilům. Sociální síť se sídlem v Menlo Parku se rozhodla potlačit výskyt falešných profilů s fotografiemi obličejů vytvořených pomocí umělé inteligence, které byly podle analytické společnosti Graphika využívány především k šíření vládních propagandistických zpráv na této platformě.
V úterý sociální síť oznámila, že v rámci operace bylo odstraněno 155 účtů, 11 stránek, devět skupin na Facebooku a šest účtů na platformě Instagram kvůli "neautentickému koordinovanému chování jménem zahraničního nebo vládního subjektu". Obsah propagovaný účty se zaměřoval zejména na události v jihovýchodní Asii a ve Spojených státech. Mezi nejčastější příspěvky v první, největší skupině profilů patřily ty, které se týkaly zájmů Pekingu v Jihočínském moři a Hongkongu, zatímco ve druhé, menší než předchozí, se objevily příspěvky o budoucích prezidentských kandidátech USA Peteu Battigiem, Joeu Bidenovi a Donalu Trumpovi, a to jak s pro, tak i proti.
Falešné profily na Facebooku: výsledky vyšetřování
S cílem lépe pochopit a získat zásadní informace o této problematice vyzvala společnost Facebook společnost Graphika, aby provedla hloubkovou analýzu falešných profilů, než je zruší a pošle do zapomnění.
Společnost Graphika, která je napojena na americké ministerstvo obrany, získala ze svých šetření v některých případech obzvláště alarmující údaje, zejména v oblasti krádeží identity.
Falešné profily: odkud pocházejí fotografie uživatelů
V některých případech Graphika zjistila, že profilové obrázky jsou zcela autentické, ale ukradené z obrázků zveřejněných na internetu skutečnými lidmi a snadno identifikovatelné pomocí zpětného vyhledávání. V jiných případech však studie odhalila, že fiktivní postavy na sociální síti byly vytvořeny pomocí generativních protivných sítí (GAN), které využívají učení neuronových sítí k vytváření vysoce realistických lidských tváří, které jsou pro lidské oko věrohodné.
Podezření společnosti ohledně použití GAN vzbudilo 12 profilových fotografií s nesrovnalostmi ve vzhledu. Obrázky zobrazovaly zkreslené pozadí nebo prvky, které nebyly zcela symetrické, přestože tomu tak ve skutečnosti bylo, například uši a brýle. Aby bylo možné přesně určit povahu fotografií, společnost snímky po jejich zneprůhlednění přeexponovala, čímž odhalila chybné rozmístění prvků.
Falešné profily a umělá inteligence: nový trend?
Ačkoli schopnost pozorování umožňuje odhalit falešné profilové fotografie a související falešné profily, není to poprvé, co se podobné chování skupin s pochybnými úmysly objevilo. V září 2020 se o stejný trik pokusila jiná síť napojená na ruskou Agenturu pro výzkum internetu (IRA), která propagovala falešnou webovou stránku PeaceData.