Facebook zveřejnil algoritmus pro vyhledávání násilných videí


Facebook se rozhodl zpřístupnit algoritmus, který mu umožňuje vyhledávat násilná videa nebo videa porušující autorská práva. Kód je na GitHubu

Algoritmus vyvinutý společností Facebook ve spolupráci s Univerzitou v Modeně a Reggio Emilia k vyhledávání násilných videí se stává otevřeným zdrojem. Gigant sociálních sítí a italská univerzita se rozhodly zveřejnit kód, aby umožnily ostatním spolupracovat na vývoji algoritmu a vylepšit ho.

Tento algoritmus, který je výsledkem spolupráce pařížské skupiny Fair (Facebook Artificial Intelligence Research) společnosti Facebook a italských vědců, využívá umělou inteligenci k vyhledávání podobných částí různých videí v reálném čase. Algoritmus byl vytvořen zejména za účelem vyhledávání porušování autorských práv, ale modrá sociální síť jej používá také k vyhledávání videí obsahujících násilí, zejména na nezletilých, a teroristickou propagandu. Až dosud byla chráněna autorskými právy, takže ji nemohl používat nikdo jiný než univerzita a Facebook.

K dispozici na GitHubu

Algoritmus, který identifikuje násilná videa, bude k dispozici všem na GitHubu, takže jej budou moci používat velcí i malí vývojáři (ale také sdružení bojující proti násilí) k vyhledávání "hashů" nebezpečných videí. Kód vyvinutý společnostmi Facebook a Unimore bude moci brzy používat kdokoli a vzhledem k tomu, že se jedná o otevřený zdrojový kód, bude jej moci upravovat a vylepšovat. Například nezisková organizace, která se zabývá bojem proti násilí na ženách nebo dětech, bude moci pomocí algoritmu prohledávat sociální sítě, fóra a další platformy a vyhledávat videa, která by měla být z webu odstraněna.


Sdílení technologie

Facebook ve svém sdělení vysvětluje, proč se rozhodl algoritmus otevřít: "Pokud na našich platformách identifikujeme teroristickou propagandu, odstraníme ji a zaindexujeme pomocí různých technik, včetně algoritmů, které dnes sdílíme. Nyní můžeme "hashe" sdílet s partnery v oboru, včetně menších společností, aby mohli odstranit stejný obsah, pokud se objeví v jejich službách."

Velmi často se stává, že video odstraněné společností Facebook se dále šíří na jiných kanálech, které nemají technické nástroje, aby ho automaticky klasifikovaly jako nebezpečné, bez lidského přezkumu.