Sto devadesát let důvěry ve fotografii skončilo. AI útočí na naše nejprimárnější pudové vlastnosti

Pokud jsi v podobném věku jako já (narodila jsem se v roce 2000), tak si asi o sobě myslíš, že zvládneš rozpoznat AI obsah, že jsi ten nebo ta, kdo vyjasňuje svým rodičům či prarodičům, že ve skutečnosti ta kočka opravdu nehraje na dudy nebo neskáče na trampolíně. To se ale změnilo. Je velmi pravděpodobné, že ses stal*a, nebo se brz staneš také obětí.

Mluvím o Nano Banana Pro, obrázkovém modelu, který spadá pod Gemini 3. Poslední update dokáže generovat obrázky, které oklamají člověka se zkušeným okem, a dokonce i některé AI detektory.

To už ani nemůžeme věřit vlastním očím?!

Pokud nevíš, jak se tvoří AI fotografie, funguje to následovně: do AI nástroje zadáš prompt typu „Mladá dívka se zrzavými vlasy sedí na gauči, pije kávu a směje se do objektivu. 110mm lens.“ Prompt může být takhle obecný, nebo klidně čtyřikrát delší a přesnější. Chatbot ti podle něj obrázek vygeneruje a reálně nepoznáš, která fotka je skutečná, a která ne.

A tím definitivně může skončit veškerá důvěra ve fotky, ta nepsaná dohoda, která trvala skoro sto devadesát let, že ne všechno musíme vidět na vlastní oči, a že když někdo něco zachytil fotoaparátem, je velká šance, že to tak opravdu bylo. Toto útočí na naše nejprimárnější pudové vlastnosti a mentální zvyk, že můžeme věřit vlastním očím.

Řítíme se tím do třicátých let 2.0

Vždycky, když se dozvím, že nějaká technologie pokročila tímhle směrem nebo že se děje něco podobného, mám chuť začít prostě křičet: „To s tím nikdo nic neudělá?!?“

Řítíme se tím do třicátých let 2.0 s ohledem na to, jakou misinformační válku to může vyvolat? Ne každý a vlastně minimum z nás má kapacitu na to, aby si každou fotku vkládal*a do AI detektoru. Může to mít úplně stejný efekt jako firehose of falsehood, což je taktika, kterou používá mnoho populistů: chrlíš obrovské množství lží, polopravd a protichůdných tvrzení rychleji, než je kdokoliv stihne ověřit. Lidé se postupně unaví, přestanou sledovat, co je pravda, a otupí vůči lžím.

Kde jsou nějaké větší a efektivní regulace?

Technologické firmy postupují rychlostí blesku s inovacemi. To je úplný opak tempa, které mají státní a nadnárodní instituce kvůli byrokracii, která má své důvody samozřejmě. Nejhorší je, že některé instituce jsou lokální, zatímco tech firmy globální, takže tady taky prohráváme. Poměr sil je jako kdyby se Mike Tyson šel do ringu porvat s křečkem. Trochu přeháním, ale chápeme se.

Když vznikly sociální sítě, ze kterých se později vyklubalo něco jiného než to, že nás to bude spojovat s přáteli a rodinou, se kterými budeme sdílet fotky z dovolené z Tenerife, tak technologické firmy byly proaktivní a instituce byly reaktivní. Ale tyhle dny jsou dávno pryč.

Pokud nechceme, aby to celé najelo na dálnici směr really really bad stuff je zapotřebí sejmout část zodpovědnosti z jednotlivců a přenést ji výše, tedy na státy a instituce. A bohužel něco typu AI Act nestačí.

Instituce musí méně spoléhat na technologická řešení typu watermarking, AI detektory nebo označování obsahu a mnohem víc se zaměřit na mediální gramotnost, osvětu a práci s lidskou psychologií. Je potřeba naučit lidi nové návyky. A hlavně musí zrychlit tempo.

Svět bude pokračovat i bez nás až tu nebudem, ale je na naší zodpovědnosti, aby generace po nás i ty ještě neexistující mohli vyrůstat ve světě, kde jsou děti budoucností a máte pocit možnosti lepších zítřků a nebudete jen nostalgicky vzpomínat na časi minulé.