Eiffelovka ani Louvre nehoří, AI dezinformace jsou ale alarmující

Vytvořit přesvědčivé fake news v éře AI není vůbec těžké, a navíc to zvládne prakticky každý. Posledním případem jsou virální záběry hořící Eiffelovy věže, které už nasbíraly skoro 90 milionů views.

Původní fotky 👇

Fotky vypadají přesvědčivě, a proto si v prvních chvílích taky řada lidí myslela, že jsou reálné a věž opravdu hoří. Po sérii fotek se navíc začala objevovat další AI videa, jejichž tvůrci v komentářích tvrdili, že jsou pravá. Video „hořícího Louvru“ na sebe pak nenechalo dlouho čekat.

AI video hořící Eiffelovy věže 👇

Debunked 👇

AI video hořícího Louvru 👇

AI video hořící Eiffelovy věže 👇

Jak poznám fake vytvořený pomocí umělé inteligence?

V některých případech je to poměrně jednoduché, stačí se pořádně podívat. AI generované obrázky nebo videa často na první pohled vypadají reálně, ale když se člověk zaměří na detaily, rychle přijde na to, že je s nimi něco špatně. Spolehlivý poznávací znak jsou třeba ruce, které umělá inteligence v řadě případů nemá zmáknuté.

V případech posledních dvou videí je rozeznání AI jednoduché, jelikož se auta nebo postavy nepohybují jako reální lidé a stroje. Někdy to ale není tak zřejmé a je potřeba si trochu pomoct.

Podívejme se na to, jak Verify nebo VICE postupovali, aby si ověřili jestli jsou původní fotky hořící Eiffelovky real, nebo ne:

Verify použili diagnostický video nástroj InVID, který našel, že stejné video se objevilo na YouTube v roce 2003 a bylo označené hashtagy VFX a CGI – tedy se nejednalo o reálné video.
Zkontrolovali oficiální stránky pařížské policie, které neobsahovaly žádné zprávy o hořící Eiffelovce.
Stejně tak o ničem neinformovaly oficiální účty Eiffelovy věže – Facebook, Twitter ani Instagram nebo oficiální webovky.
Nakonec se ještě podívali na veřejně dostupné záznamy z webcam, která věž snímá 24/7, a ani tam se požár neobjevil.

S trochou snahy tak nakonec nebylo těžké najít pravdu. Co ti tedy obecně pomůže AI odhalit?

Uncanny valley – Pokud se ti na fotce něco nezdá, je dost možné, že se jedná o AI.
Detaily – Někdy si stačí spočítat, kolik chodidel, rukou nebo prstů se na fotce objevuje, když jde o AI počty, často nesedí. To samé platí třeba pro brýle. Obecně se fake u lidí pozná nejlíp, i když se generátory neustále zlepšují a nejde se na to 100% spoléhat.
Media literacy – Tvůj nejlepší nástroj budeš vždycky ty. Podobně jako u Eiffelovky je potřeba si udržet odstup a zkoumat zdroje. K tomu můžeš využít metodu nazvanou SIFT (= Stop. Investigate the source. Find better coverage. Trace the original context.)
Jdi po zdrojích! Zkoukni oficiální webovky nebo účty institucí a taky velká média.
Používej diagnostické nástroje – Ty by měly v rozpoznávání taky pomoct. Jejich přehled najdeš tady.

Dezinformace šířené AI jsou světovou hrozbou

Už ke konci minulého roku The Washington Post reportoval, že počet AI generovaných článků s fake news narostl od května 2023 o více než 1000 %. Vycházel přitom z údajů organizace NewsGuard, která se zabývá dezinformacemi.

Z reportu World Economic Forum zase vyplývá, že fake news tvořené umělou inteligencí jsou jednou z největších globálních hrozeb, především protože mohou být využívány jako nástroj manipulace velkých skupin obyvatelstva nebo propaganda. Nemožnost rozeznat, co je reálné a co ne, může mít fatální dopady i na politiku či ekonomiku.

Nevěř tak všem senzacím, které se na internetu objeví - teď to platí víc než kdy jindy. Prověřuj a nenech se zlákat!

Zdroje: Forbes.cz, apnews.com, washingtonpost.com, newsguardtech.com, npr.org