Přihlášení se k heyfomo
Instagram teenagerům pořád ukazuje sebevražedný obsah
Sebevražedný a jinak poškozující obsah na Instagramu není žádná novinka. V posledních letech tak sociální síť implementuje nástroje, které by měly dospívající před škodlivým obsahem ochránit, podle posledních studií ale tyhle mechanismy nefungují.
Trigger warning: Článek obsahuje zmínky o násilném a sebevražedném obsahu na internetu
Možná si ještě pamatuješ „chybu“ v instagramovém algoritmu z února letošního roku, kdy se na feedu a reelskách začal lidem ukazovat brutální a násilný obsah, takový, na který většinou narazíš jen v pochybných discordových a redditových skupinách. Nebyl to ale ojedinělý incident a tenhle problém se celkově netýká jenom Instagramu, ale internetu jako takového.
Ale pojďme si nalít čistého vína - internet je sice nekontrolovatelný a obsahu z dark webu se nikdy nezbavíme, Instagram má ale mít mechanismy, které podobným věcem zabrání. A to včetně ochrany dospívajících a dětí před škodlivým sebevražedným obsahem, který ale podle studie provedené centrem Cybersecurity for Democracy a whistleblowerem Arturo Béjarem ze sociální sítě nemizí.
Bezpečnostních nástrojů jsou desítky, funguje jich ale jen pár
Mladistvé mají na Instagramu chránit tzv. Teen Accounts, které společnost zavedla v roce 2024, a letos funkci rozšířila i pro Facebook a Messenger. Soubor ochranných nastavení funguje automaticky a platforma také automaticky všem náctiletým uživatelům a uživatelkám Teen Account přiřazuje. Všichni teenageři mladší 16 let navíc potřebují souhlas rodičů k jakékoliv změně nastavení.
Důležitou součástí jsou soukromé účty (které se taky nastavují automaticky), časové omezení, sleep mode, limitování interakcí, zabezpečení zpráv a hlavně omezení citlivého obsahu. Instagram by tak měl filtrovat nadávky, urážlivá slova nebo fráze a z feedu by taky měl mizet všechen obsah násilný nebo sebevražedný obsah.
Výzkumnictvo ze Cybersecurity for Democracy si pro svůj výzkum založilo falešné teen účty a jejich studie odhalila, že 30 z celkem 47 zkoumaných bezpečnostních nástrojů pro dospívající na Instagramu je v prakticky neúčinných nebo už neexistuje. Dalších 9 nástrojů nebezpečí snížilo, ale jsou poměrně dost limitované a pouze 8 nástrojů ze 47 bylo efektivních.
Je to ale dlouhodobý problém. Minulý rok dánská studie odhalila, že Instagram šíření obsahu souvisejícího se sebepoškozováním mezi dospívajícími aktivně podporuje. Výzkumný tým vytvořil na platformě soukromou síť, která sdílela explicitní obsah včetně obrázků s žiletkami a krvavými scénami.
Meta tvrdí, že 99 procent škodlivého obsahu odstraní ještě před nahlášením pomocí umělé inteligence, během měsíčního experimentu ale nebyl smazán jediný příspěvek. Organizace dokonce vytvořila jednoduchý AI nástroj, který dokázal identifikovat 38 procent obsahu souvisejícího se sebepoškozováním a 88 procent těch nejzávažnějších, což podle ní ukazuje, že Meta má přístup k podobné technologii, ale nevyužívá ji efektivně.
Zdroje: BBC, The Guardian, gov.uk, meta.com