„Někdo hodil mou fotku do AI, aby mě svlékl.” Tři české influencerky o své zkušenosti s novou formou sexuálního obtěžování

Čím dál častěji se objevují případy lidí, kteří na sociálních sítích nachází své nahé fotografie, k jejichž zveřejnění jednak nesvolili, a jednak ani nejsou pravé – někdo je vygeneroval pomocí AI. Výjimkou nejsou ani děti a nezletilí. Příkladem může být přes dvacet mladistvých dívek ze španělského města Almendralejo, jejichž falešné nahé fotky vytvořilo za pomoci umělé inteligence 11 lidí a následně je šířili na Instagramu či WhatsAppu.

Něco podobného se děje i u nás. Jen za posledních pár týdnů vystoupilo veřejně hned několik influencerek, které se setkaly s obdobnou zkušeností. Zneužita byla skrze falešné fotografie například Sugar Denny, Sophie Sarlak, Anna Kloboučková, Vikavikoos nebo třeba Klára Jonášová, čtyřiadvacetiletá influencerka, která má na svém Instagramu 102 tisíc sledujících.

,,Někdo použil mou fotku z IG a hodil ji do AI, aby mě vyslíkla. Následně mi fotka byla zaslána nějakou ženou s otázkou „jsi to ty?,“ což byl pravděpodobně nějaký fejk, jelikož mi psaly i další slečny, že jim ta osoba psala to samé. Ve zprávě jsem na ni nereagovala, nejsem zvyklá na tyto věci reagovat. Většinou to ty lidi přestane bavit. Samozřejmě jsem se lekla, ale hned ve vteřině mi došlo, že to já nejsem. Mám viditelná tetování po celém těle a taky větší prsa,“ popisuje pro heyfomo.cz svou prvotní reakci Klára. Nenechala se ale rozhodit. ,,Nesnažím se nikdy zjišťovat, kdo je na druhé straně, často mi totiž lidi píšou nechutný věci a já si tím nenechám zkazit život. Jít na policii mě ani nenapadlo, už jsem zvyklá na nenávist vůči mé osobě na internetu, takže spíš tyto věci vypouštím,“ svěřila se nám.

Klára Jonášová ale není v takové situaci sama. Mediální pozornost se v posledních dnech strhla i na influencerku Sophii Sarlak, která na svých účtech šíří povědomí o duševním zdraví. I ona se se svými deepfakes setkala a situaci se rozhodla řešit i s policií. „Jeden kluk, který je „známá firma” a rozesílá fotky nahých holek už roky, se mi ozval do DMs, že pomocí AI dokáže z mých fotek udělat nudes. Zprávu jsem ignorovala, ale nakonec se ukázalo, že to myslel vážně. Přišla mi moje „nahá“ fotka do zpráv na Instagramu. Bylo naštěstí poznat, že je to fake, tak jsem se trošku zasmála nad tím, že se to dané osobě moc nepovedlo. Přišlo mi to z profilu nějaké slečny, ale ukázalo se, že to byl tajný účet klučiny, který fotku vytvořil,“ vysvětluje nám Sophie.

Z původní obavy o sebe samou se ale rychle stala obava o možné další oběti. „Pocítila jsem nejdřív znechucení z lidí, pak smích a pak obavy o to, jak moc se to vlastně může rozjet. Kolika holčinám, případně chlapcům, to může ublížit i jaké dopady to může mít na psychiku. Cítila jsem vlastně jen zmatenost. Nechápala jsem, že se to fakt stalo. Ozvala se mi pak spousta holčin, která má s Tomášem (tím klukem) zkušenosti. Ne ohledně AI, ale v souvislosti se sexualizací či vydíráním a rozesíláním nudes,“ doplňuje. V tu chvíli se proto rozhodla celou situaci řešit a kontaktovala policii.

„Následně jsem šla na policii, ale jako první mi bylo řečeno, že jsem fotku dala na internet a každej si ji může stáhnout. V tu chvíli jsem chtěla odejít, ale přetrpěla jsem hodinu čekání. Bylo mi oznámeno, že jsem první, kdo tohoto chlapce a celkově takový případ nahlásil. Do 30 dnů mi dají vědět, ale jedná se údajně o přestupek. Momentálně komunikuji s několika médii, která se snaží zjistit, co se s tím bude dát dělat, tak snad se přihlásí co nejvíce holčin. Co nejméně holčinám se to ještě stane, ale hlavně se to konečně začne řešit,“ líčí svou zkušenost Sophie.

Že se jedná o přestupek, jak Sophie ze svého zážitku popisuje, potvrzuje i Policie České republiky. „V právním prostředí ČR by se zmiňované jednání mohlo právně kvalifikovat jako přestupek proti občanskému soužití. V závislosti na kvalitě aplikace pak lze u osob viditelně mladších 18 let hovořit o šíření dětské pornografie, nicméně pokud se nepletu, tak kvalita takových fotografií není valná a některé z nich to ani neumí. Samotné zveřejnění trestným činem v obecné rovině není. Pokud však dojde ke zveřejnění, resp. vyhrožování umístění fotografie na sociální sítě, tak může být teoreticky naplněna skutková podstata trestného činu, například vydírání či sexuální nátlak,“ popisuje pro heyfomo.cz praxi vedoucí oddělení tisku Policie ČR plukovník Ondřej Moravčík. 

Nedávno na svém Instagramu sdílela podobnou zkušenost i influencerka a zpěvačka Vikavikoos, která se s námi také podělila o svou zkušenost. 

„Neznámá osoba mi poslala moji fotku, která byla předělaná na nudes. Na první pohled vypadá celkem legit, avšak když se pak člověk zaměřil na detaily, tak tam bylo spoustu nedokonalostí, takže šlo poznat, že to není real. Nejdřív jsem se tomu vysmála, jako dospívající jsem zažila dost drsnou kyberšikanu, takže na tyhle věci jsem, řekla bych, dost odolná. Ale pak, když jsem nad tím víc a víc přemýšlela, mě to štvalo a bylo mi hodně smutno, protože tohle může hodně ublížit spoustě slečen, kór v dospívajícím věku. A vím, jak moc takovýto vydírání může člověka poznamenat do budoucna,“ říká Vika. Podle všeho ale rozhodně není spolu s Klárou a Sophii jediná, která se v takové situaci ocitla. ,,Po zveřejnění svýho „zážitku“ se mi ozvalo hodně holek, že mají stejnou zkušenost, a jedna slečna mi dokonce i poslala konkrétní osobu, která by to měla dělat, ale nevím, nepřišlo mi to úplně věrohodný. Na policii jsem kvůli tomu zatím nešla, ale uvažuju nad tím,“ popisuje svůj zážitek Vikavikoos.

Právě rozhodnutí jít na policii a přestupek nahlásit může přispět k účinnější prevenci a důslednějšímu mapování statistik. „U popisovaného jednání je vždy klíčová subjektivní stránka, což jinými slovy znamená, že poškozená musí cítit zveřejnění jako svoji újmu a musí toto oznámit na Policii ČR. Samotné zveřejnění nenaplňuje zpravidla skutkovou podstatu trestného činu, pokud se nejedná o explicitní snímky osob viditelně mladších 18 let, a není tedy možné vyčíst ze statistik, zdali a potažmo kolik takových případů šetříme – přestupkové jednání v těchto případech není statisticky sledováno,“ vysvětluje postupy PČR plukovník Moravčík. 

Případy, které zde popisujeme, spadají v do oblasti tzv. deepfakes, tedy manipulovaných fotografií, videí i zvuků, které se tváří jako opravdové. Jak uvádí Jan Míča, Digital Leader při zastoupení Evropské komise v Praze, v současnosti vyjednávaná regulace umělé inteligence na úrovni Evropské unie, takzvaný AI Act, na oblast deepfakes myslí. Takto vytvořené produkty by podle EK měly nést informaci, že se na jejich vzniku podílela technologie umělé inteligence. Podobně je to pak podle Míči například i u chatbotů a dalších případů, kdy by měli uživatel či uživatelka být informováni o tom, že s AI interagují. 

,,V současnosti probíhá legislativní proces mezi Radou EU a Evropským parlamentem, což znamená, že finální pravidla pro AI mohou doznat změny oproti návrhu, který Evropská komise předložila,“ komentuje pro heyfomo.cz Jan Míča. Co se pak oblasti postihů a možného trestání vytváření a šíření deepfakes týče, nemá Evropská unie v podstatě žádné pravomoci. „Obecně se držení pornografického materiálu řídí národním trestním řádem,“ doplňuje.