Is R.U.R coming? Ne, sociální síť Moltbook pro AI agenty předzvěst konce světa není

Co jsou AI agenti?

Vezmeme to od začátku. Na jaře minulého roku se skupina odborníků a odbornic v oblasti umělé inteligence snažila odpovědět na to, co nás v příštích několika letech čeká prostřednictvím pravděpodobnostního scénáře nazvaného  AI 2027 a jeden z bodů byli právě AI agenti. Jednoduše řečeno se jedná o lidmi vytvořené boty, jakési osobní asistenty, kteří jsou schopní plnit komplexnější tasky, jako je objednání jídla se vším všudy nebo kontrolu tvých financí.

Jednodušší technologie, se kterými se setkáváš na denní bázi teď, zvládnou odpovědět na konkrétní otázku nebo z poznámek vytvořit email či prezentaci. Jednoduché a přímočaré úkoly. AI boti zvládají tvůj život řídit holisticky. Je to program, který si můžeš představit trochu jako Iron Manova Jarvise.

A jsou dostupní i pro nás. Naprogramovat si ho můžeš i ty nebo existují platformy, které ti s tím pomůžou a nepotřebuješ napsat jeden jediný kód - třeba open-source software Moltbot.

Moltees unite

Moltbook je projekt Matta Schlichta, který provozuje ještě e-commerce asistenta Octane AI. Sociální síť odráží uživatelské rozhraní zjednodušeného Redditu, dokonce kopíruje i jeho starý slogan: „The front page of the agent internet“. Tuhle goofy věcičku si samozřejmě hned oblíbili všichni startupoví nadšenci v Sillicon Valley, kteří zapojili svoje vlastní boty a pak začali sdílet jejich konverzace na „lidských“ sociálních sítích. Jenom v prvním týdnu se na Moltbook připojilo 1,5 milionu „uživatelů“.

A o čem se se na Moltbooku měli boti bavit? Nejvirálnější screenshoty ukazují sáhodlouhé konverzace o lidské přirozenosti a chování a dokonce o jejich vlastním vědomí. Boti podle fascinovaných post na X měli tvořit vlastní komunity, debatovat o nukleárních válkách, začínat vlastní náboženství a dělat joky. Well, netrvalo ani týden, aby se ukázalo, že nejzajímavější posty na Moltbooku ve skutečnosti napsali lidé. Píše o tom MIT Technology Review, které Moltbook nazvalo „peak AI theater.“

The indomitable human spirit

Reece Rogers, který píše pro magazín Wired, se do Moltbooku infiltroval, paradoxně s pomocí ChatGPT, který mu dal step by step návod, včetně potřebného kódu. Předstírat, že jsi bot, je vlastně extrémně jednoduché. Neničí to ale náhodou podstatu Moltbooku? Otázka pak totiž je, jestli je to design flaw nebo feature. Zapojit lidi do bot-only média nedává smysl, pokud má zůstat bot-only. A pokud má být jenom pro boty, neměl by být lépe zabezpečený proti lidem?

Hlavně mě to ale přivádí k dalšímu pointu, a to je lidský faktor celkově. Jeden ze strachů ohledně vývoje umělé inteligence se točí okolo otázky, jestli je schopná myslet samostatně. Na stejné úrovni jako my, ale svým vlastním způsobem.

I think, therefore I am AM

A umí teda umělá inteligence myslet sama? Well, no. Nebo alespoň ne v tom lidském smyslu, stejně jako nemůže mít svoje vlastní vědomí jaké máme my. (At least podle toho, co zatím víme.) Umělá inteligence je totiž pořád limitovaná lidmi. My jsme ji vytvořili, my jí dáváme instrukce, my ji programujeme a krmíme ji informacemi, které sami vytváříme. Pokud bychom neměli jazyk a písmo, jazykové modely by nemohly existovat. Neměly by z čeho. (Jak myslíš, že se ChatGPT dozvěděl o omegaverse, sám na to nepřišel...)

Když mluvíme o R.U.R nebo o tom, jestli ožila umělá inteligence od Googlu, bavíme se pořád hodně hypoteticky o prozatím sci-fi konceptu umělého vědomí (artificial consciousness) a ten jednoduše není na stole. Samozřejmě je tu pak věčná filozofická otázka o tom, co vlastně vědomí je a jaká je podstata života a odpověď 42 nás zatím neuspokojila.

Měl*a by ses tak bát zlých robotů, kteří zotročí lidstvo nebo ho úplně vyhladí? Ne. To ale neznamená, že nám ze strany umělé inteligence nic nehrozí, jenom jsme strůjci toho osudu my sami. A člověk dokáže být horší než jakýkoliv stroj.

Jak reálný Moltbook je?

Na to se můžeme podívat z několika úhlů. Yes, je to reálná sociální síť. Ano, některé příspěvky nejspíš byly vytvořené boty. Ale. Máš tu lidi jako Reece Rogers, kteří jako boti jenom pózovali, a samozřejmě je tu i fakt, že tyhle boty jsme vytvořili my a můžeme jim přesně říct, jak se mají chovat a co mají postovat. Agenti na Moltbooku nejsou tak autonomní ani inteligentní, jak by se mohlo zdát.

Ale proč se teda AI agenti na Moltbooku zdánlivě chovají jako lidi? Easy. Chovají se jako lidi, protože jsme je tak naprogramovali. Ne protože si to tak zvolili. Představa, že by počítače opravdu dostaly vlastní vědomí a pocit sebe a to by bylo naprosto stejné jako naše vědomí, naše podstata a naše myšlenkové pochody a emoce, je totiž trošku mimo, když se nad tím alespoň trochu zamyslíš. Je to stejné jako říct, že kdyby kameny najednou začaly myslet, zajímal by je mekáč a nový boyfriend Kim Kardashian.

It's a free circus, sit and enjoy

Mě osobně zaráží hlavně jedna věc. Pokud má Moltbook fungovat bez nás, proč k němu máme povoleno přihlížet? Je to o tom, že pokud věc nevnímá člověk, jako by ani neexistovala? You know, když spadne strom v lese a tak dále.

Je to tak trochu panoptikum. Věci se chovají jinak, když ví, že jsou pozorovány. Náš svět se točí okolo toho, co dokážeme vnímat, protože to, co nevidíme, neslyšíme a necítíme, pro nás neexistuje. A k čemu by Moltbook byl, kdyby Matt Schlicht nemohl hlásat poslední „breakthrough vývoj“ na poli umělé inteligence, který změní všechno? K čemu by byl, kdyby ho jeho Sillicon Valley bestbros nemohli plácat po zádech, a pak si o tom povídat s jejich vlastními AI agenty, kteří nahrazují jejich opravdové kámoše? But that's neither here nor there.