Většina české populace neví, co je to deepfake. Jak ho rozeznat?

V dnešní době už se nástroje umělé inteligence, neboli AI, pomalu ale jistě stávají součástí našich životů. Přicházíme s nimi do kontaktu třeba při placení u samoobslužných pokladen, při využívání navigace v autě nebo třeba když si odemykáme svůj iPhone pomocí Face ID. Aniž bychom si to mnohdy uvědomovali, umělou inteligenci využíváme v podstatě denně.

Jednou z forem AI jsou i deepfakes. Jedná se o zdánlivě reálný, umělou inteligencí vytvořený obraz, zvuk nebo video, které se nezakládá na pravdě. V poslední době se dostávají deepfakes do popředí kontroverzí, jelikož je mnoho lidí využívá k šíření falešných obrazů a videí.

Jedním z takových bylo například video s ministrem vnitra Vítem Rakušanem (STAN), které se šířilo na sociálních sítích a v kterém urážel občany Karviné, nebo třeba explicitní deepfakes Taylor Swift, na které reagoval i Bílý dům a volal po potřebné regulaci online obsahu.

Středoevropská observatoř digitálních médií (CEDMO) při Univerzitě Karlově udělala proto spolu s agenturou Median nedávno průzkum a jeho výsledky jsou, mírně řečeno, alarmující. Většina české populace totiž neví, co deepfake znamená. To značně komplikuje její schopnost falešný obraz nebo video rozpoznat a bránit se tak dezinformacím.

Na otázku, co je deepfake, správně odpověděly jen dvě pětiny respondentů a respondentek. Polovina odpověděla, že neví, a necelá desetina odpověděla přímo špatně. Populace má podle průzkumu i poměrně nízké povědomí o tom, jak fungují jazykové modely založené na umělé inteligenci, jako je například ChatGPT. 

Podle odbornictva je zatím podíl dezinformací vytvořených umělou inteligencí v celkovém počtu nepravdivých zpráv ve veřejném prostoru relativně nízký, i přesto jsou ale čísla v porovnání s loňským rokem obrovská. Podle studie České asociace umělé inteligence vzrostl v roce 2023 celosvětový počet bezpečnostních incidentů s deepfake napříč odvětvími na desetinásobek ve srovnání s rokem předchozím. Jen v Evropě se pak jedná o 780procentní nárůst počtu detekovaných případů. I proto bychom se měli naučit deepfakes správně rozpoznávat.

„U horších deep fake videí lze sledovat např. problémy se synchronizací zvuku a pohybu rtů (lip sync), problémy s kontrastem, barevné fragmenty, různé druhy rozmazání, nepřirozená gesta, ale také např. chybnou intonaci. U některých videí je pak hlas např. velmi čistý - bez logopedických vad, podle čehož lze také odhalit, že jde o podvrh. Důležitý je samozřejmě také obsah sdělení: např. prezident Petr Pavel asi nebude na YouTube nabízet zázračné zbohatnutí, jak se tomu děje v podvodné inzerci využívající deepfake, která již několik měsíců koluje internetem,“ popisuje pro HeyFomo Kamil Kopecký, vedoucí e-bezpečí při Pedagogické fakultě Univerzity Palackého v Olomouci, který pro CEDMO realizuje aktivity k rozvoji mediální gramotnosti.

Pojďme se tedy podívat na pár praktických tipů, díky kterým můžeme deepfake rozeznat.

Jak můžeme k deepfake přistupovat?

dávat pozor na neobvyklé detaily (nesrovnalost v mrkání, neobvyklé stíny)
hledat další zdroje informací
kriticky přistupovat k tomu, jaké informace konzumujeme

Jaké otázky si můžeme při rozpoznávání deepfakes klást?

Je chování osoby ve videu konzistentní s jejím známým chováním?
Jaký je kontext dané události?
Je kontext videa věrohodný?
Odkud video pochází?
Jak důvěryhodný je zdroj?
Jaký může být účel a motivace zdroje?
Existuje potvrzení nebo popření videa (nebo jeho obsahu) od důvěryhodných zdrojů?
Je prezentace informací objektivní nebo subjektivní?

Výše uvedené otázky by nám měly pro rozpoznání falešného materiálu pomoci. Pokud si ale i přesto nejsme jisti, můžeme použít třeba webové stránky CEDMO, kde jsou dezinformace v reálném čase monitorovány, nebo přímo umělou inteligenci, která dokáže deepfakes rozpoznat.

„Ve světě plném dezinformací je kritické myšlení naší nejlepší obranou. Naučme se klást správné otázky a neberme vše, co vidíme na internetu, za hotovou věc. Buďme vždycky kritičtí a ověřujme si zdroje informací. Tento boj s dezinformacemi není jen o technologii, je to také o vzdělávání a o schopnosti myslet kriticky. Proto je důležité, aby se lidé aktivně učili o deepfake a dalších formách digitálního klamání. Pouze tak můžeme společně postavit silnou obranu proti dezinformacím v digitálním věku,“ doplňuje pro HeyFomo Veronika Batelková, předsedkyně organizace Zvol si info a odbornice v oblasti dezinformací.