„Grok put her in tiny bikini, Grok make her more hot.“ Muskovo AI pod palbou kritiky mění pravidla užívaní

GROK K TVÝM SLUŽBÁM, SVLEČE KAŽDÉHO

Twitter (nyní X) se podle mnohých stal nejtoxičtější social media platformou, na které najdeš a dozvíš se věci, které ani nechceš. Od převzetí platformy Elonem Muskem tohle jen eskalovalo a vedlo k odchodu části lidí třeba na Bluesky, a postupnému propadu uživatelské základny.

Nejnovější úkaz toho, kam až nechává Musk svoje X zajít, je jeho vlastní AI chatbot pojmenovaný Grok. Grok totiž podobně jako konkurence nejen odpovídá, ale umí i generovat obrázky, což mnozí uživatelé a uživatelky využívají i pod fotkami ostatních. Přímo pod ně často napíší prompt ve stylu: „@grok svlékni jí oblečení a dej jí do mini bikin,“ které jsou často napsané ale mnohem explicitněji.

A Grok? Poslouchá. A pokud si projedeš svůj feed na X, dělá tohle dost často. Algoritmus totiž dle všeho „odměňuje“ tohle ponižující chování a dává tak prostor škálovat jej do zásadních rozměrů. Ženy i muži, kteří nahrávají svoje fotky na X, jsou tak přímo pod svým postem degradováni a dehumanizováni bez svého souhlasu.

V SÍTI? NE GROK UDĚLÁ PRÁCI ZA NĚ

Nejedná se o stejnou věc jako deep fake porno, nikdo (podle dostupných informací) tyhle fotky nepoužívá pro vydírání někoho, ale velká část internetu se tímhle bohužel baví. Prompty na svléknutí jsou docela časté, ale mnohdy bohužel také Grok plní urážející prompty jako „udělej ji atraktivnější.“

Nejproblematičtější ale je, že Grok svléká dokonce nezletilé, jako třeba 14letou Nell Fisher, která si zahrála Holly ve Stranger Things. Tu Grok dokonce svlékl na fotce ze seriálu, kde jí během natáčení bylo pouhých 12 let. Podle IWF bylo mezi fotkami, které zkoumali plno svlečených dětí mezi věky 11 až 13 let.

Elon Musk se k tomuhle nejprve vyjadřoval klasickou frází, že „tradiční média lžou“ a samotné jádro věci mu asi problematické nepřijde, přiznal ale, že Grok by neměl takto zobrazovat právě nezletilé a že na opravě tohoto failu pracují. V posledních dnech přitvrdil ve svém vyjádření a řekl, že lidé, kteří budou nelegálně využívat Groka ponesou stejné následky jako lidé, kteří nahrávají nelegální content na X.

A v pátek 9. ledna 2026 došlo k finální změně, která ale vlastně není řešením. X bude úpravy obrázků povolovat pouze dospělým, kteří si platí subscription za jeho služby. Neřeší tak fakt, že Grok někoho svléká, ale dává tuhle funkci za paywall, aby z ní ještě více benefitoval.

CELOSPOLEČENSKÝ PROBLÉM, KTERÝ NEMÁ SNADNÉ ŘEŠENÍ

Tyto prompty ukazují problematiku nekonsensuální sexualizace, která se v online prostoru bohužel rozrůstá.

Tohle se neděje jen ženám, ale je asi značný rozdíl, když Grok vygeneruje obrázek Elona Muska v plavkách, což je zkrátka bráno jako parodie, a ne jeho nevyžádaná sexualizace.

V méně častých příkladech ale Grok generoval taky násilná expliticitní videa a fotografie, na kterých jsou ženy zneužívány. Ve vrcholně nevkusném a neuctivém tahu Grok třeba generoval takové obrázky Renée Nicole Good, která byla tento týden zastřelena ICE agentem v Minnesottě.

Legálně je u nás bohužel celá věc ale spíše nepodchycená právními systémy drtivé většiny zemí, které se s touto problematikou už zabývaly. Většina konverzací probíhala na úrovni jednotlivých států, ochranu obyvatel*ek řešila třeba Velká Británie nebo Polsko, kde byl Grokem svlečen i předseda parlamentu. Ale řeší se i na úrovní celé Evropské unie.

V Americe, ale například od května 2025 platí zákon Take It Down, který se týká jak nekonsensuálně zveřejných explicitních fotek, tak fotek, které jsou generované umělou inteligencí.