Skupina Facebook přináší do Evropy nástroje, které pomohou identifikovat příspěvky zranitelných osob: otevřený boj proti sebepoškozování a sebevraždám
Facebook a Instagram činí další krok vpřed, pokud jde o podporu složité problematiky duševního zdraví. Obě sociální sítě se rozhodly, že v rámci konsolidace úsilí, které již v posledních letech vynaložily, rozšíří regulaci obsahu, který podněcuje k sebevraždě a sebepoškozování, i na Evropskou unii.
Již v roce 2016 zahájil Facebook kampaň na pomoc osobám ohroženým sebevraždou a sebepoškozováním a zavedl anonymní službu pro rychlou identifikaci všech zvláště ohrožených uživatelů. Postupem času byla opatření rozšířena i na Instagram, který od té doby spadá pod sociální síť. Jestliže však tento systém již platí v mnoha jiných zemích, v Evropě se setkává s většími obtížemi, zejména kvůli evropskému nařízení o ochraně osobních údajů, které neumožňuje, aby se na takový obsah působilo prostřednictvím lidské podpory, a to ani pro rozpoznání, ani pro oslovení podpůrných skupin.
Facebook a Instagram, jak v současnosti postupují v případě rizikového obsahu
Pro identifikaci potenciálně nebezpečných příspěvků, které mohou, jako v tomto případě, podněcovat lidi s potížemi, byl vyvinut systém založený na technologii schopné rozpoznat rizikový obsah. Po identifikaci jsou takové příspěvky, ať už v textové nebo fotografické podobě, jako jsou obrázky, kresby, memy nebo skutečné fotografie, předány týmu recenzentů složenému ze skutečných lidí, kteří nejsou zastoupeni umělou inteligencí.
Po analýze takového obsahu může tým recenzentů jednat několika způsoby. Nejprve může kontrolní tým rozhodnout o odstranění příspěvků nebo obrázků, a pokud je bude považovat za rizikovější, zkontaktuje osobu s místními organizacemi, které jí mohou pomoci tyto problémy řešit, nebo dokonce v případě potřeby kontaktuje záchranné složky.
A právě na poslední části Facebook pracuje a snaží se najít řešení se zákonodárci, aby konečně rozšířil svou podporu i na evropské občany, kteří byli dosud z tohoto typu pomoci vyloučeni.
Facebook a Instagram, čísla tísňového volání pro sebevrahy a sebepoškozování
Podle Facebooku a Instagramu již systémy používané k odhalování příspěvků o sebevraždách a sebepoškozování přinášejí vynikající výsledky. Podle zprávy bylo více než 90 % obsahu identifikovaného v období od dubna do června 2020 rozpoznáno technologií ještě předtím, než jej nahlásili ostatní uživatelé platforem.
Obě platformy se stále více angažují a rozhodly se také poskytnout podpůrnou službu pro lidi, kteří hledají účty nebo hashtagy související s těmito problémy. V úzké spolupráci s mnoha místními sdruženími pro pomoc se obě velké sociální sítě snaží fungovat jako spojovací článek mezi oběma stranami, vždy v souladu s přísnými předpisy o ochraně osobních údajů platnými v Evropě.