AI 2027: Real life Jarvis, Čína a nekontrolovatelné algoritmy. Jak by se umělá inteligence mohla vyvinout v příštích letech?

Jestli máš představu, že AI je pořád jenom ChatGPT a brainrot memes generátory, tak ji zahoď, protože tuhle hranici jsme dávno překročili.

Stojíme na okraji úplně nových možností - jmenovitě třeba AGI, obecné umělé inteligence aka artificial general intelligence, které bychom mohli podle CEO OpenAI dosáhnout už za 5 let. Co nás může do té doby čekat? Na to se snažila odpovědět skupina odborníků v oblasti umělé inteligence, která vytvořila možný scénář vývoje, AI 2027.

Age of Jarvis and Friday

Tony Stark měl po boku několik asistentů a asistentek, dva z nich byli tvoření umělou inteligencí - Friday a Jarvis. Něčeho takového se nejspíš dočkáme brzy. První tzv. AI agenti, aka osobní asistenti, by se mohli začít objevovat už v polovině letoška.

Na rozdíl od dosavadních technologií, které zvládnou plnit úkoly jen podle specifických instrukcí (např. odpovědět na konkrétní otázku nebo z poznámek vytvořit email či prezentaci), budou tihle agenti schopní plnit komplexnější tasky. Třeba objednat jídlo se vším všudy nebo kontrolovat tvoje finance a budou s tebou víc komunikovat - podobně jako Jarvis s Iron Manem.

Bude to pro tebe použitelné? Spíš ne - modely zatím nejsou perfektní a ty dobré stojí hromadu peněz.

Je tak pravděpodobnější, že je spíš začnou používat velké firmy, které si je mohou dovolit a zakomponují je do svého pracovního procesu.

AGENT-1: Nejdražší AI na světě

Konec letoška by mohl přinést důležitý průlom a něco, co autoři AI 2027 nazvali nejdražší AI na světě: AGENT-1.

Jedná se o technologii fiktivní firmy OpenBrain (kolektivně reprezentuje průkopníky v oboru jako jsou OpenAI, Anthropic nebo Google Deep Mind), která buduje největší datacentra, která jsme doposud mohli vidět. Ta jsou pro AI důležitá, bez nich by totiž neměla kde bydlet.

Například model GPT-3 běží na několika serverech a několika grafických procesorech, a to je jenom jeden z mnoha. AI procesy nemůžou fungovat na jednom počítači, a proto se přesouvají do obřích data center.

Jak to souvisí s nejdražším AI na světě? AGENT-1 je mnohem výkonnější než cokoliv, co jsme do teď potkali - jakmile budou nová datacentra postavená, AGENT-1 bude oproti nejnovějšímu GPT-4 až tisíckrát výkonnější. OpenBrain budou samozřejmě chtít dohnat další firmy - například čínská fiktivní společnost DeepCent.

Co by měl AGENT-1 umět?

Urychlit AI výzkum zaměřený na vývoj technologií napodobujících lidskou inteligenci a chování (aka AGI)
Samostatně programovat a hledat na internetu (což z něj dělá dobrého hackera)
Predikovat internetové texty a produkovat další
Budovat si základní osobnost
Mít mnohem větší znalosti než lidé

Pořád se ale nejedná o stoprocentně spolehlivou technologii.

2026: Závod s Čínou a ztráta pracovních pozic

OpenBrain se zlepšuje o 50 procent rychleji než s běžnými AI asistenty a rychleji než konkurence. Čína postupně pociťuje nátlak a DeepCent je zhruba o šest měsíců pozadu oproti OpenBrain. Začne stavět nová datacentra, pohánět vývoj kupředu, pořád ale na americké protějšky nestačí.

Ke konci roku by mohlo dojít na největšího strašáka umělé inteligence pro běžného člověka - eliminaci některých pracovních pozic.

OpenBrain do světa vypustí Agent-1-mini, menší, ale mnohem levnější verzi původního modelu. Není sice tak výkonný, ale pracuje se s ním lépe. Mini agent je teď next big thing.

Nějaké pozice mizí, otevírají se ale i nové, nicméně se pro společnost jedná o velkou změnu, která je pro ni moc rychlá. Schopnost pracovat s AI je nejdůležitější skill, který by měl každý mít na CVčku.

O svou práci se začíná bát víc a víc lidí a velké protesty na sebe nenechají dlouho čekat.

AI 2027 předpovídá desetitisícový protest v DC.

2027: Čína ukradne AGENT-2

Za pomoci AGENT-1 OpenBrain vytrénovala další generaci - AGENT-2, kterou představí americké vládě a bezpečnostním institucím jako je Ministerstvo obrany nebo Úřad národní bezpečnosti.

AGENT-2 je naprogramovaný tak, aby se nikdy nepřestal učit a každý den konzumuje obrovské množství online obsahu a syntetických dat. Učí se třeba i na videohrách. Je třikrát účinnější než předchozí model a vyniká ve výzkumu - odborníkům tak efektivně dává možnost se stát obraznými manažery AI týmů.

Má ale i svoje problémy v kyberbezpečnosti, kvůli kterým není vypuštěn mezi širší společnost. Než stihnou Spojené státy problémy vyřešit, Čína si ze začátku roku systém ukradne pro sebe.

V reakci prezident Spojených států schválí kyberútoky na DeepCent, které nicméně ničeho nedosáhnou. Politické napětí se stupňuje.

2027: AGENT-3

Závod ale pokračuje a jenom o měsíc později je na světě vylepšený AGENT-3. Hlavním cílem výzkumnictva je zaručit, že si systém sám o sobě nevytvoří tzv. misaligned goals, aka aby nedošlo k R.U.R type situaci. Nedokážou se ale dohodnout na tom, jestli tahle umělá inteligence následuje lidské instrukce, očekává naši podporu v tom, co dělá, nebo se řídí něčím úplně jiným.

V tomto bodě začínají rozsáhlejší konverzace o americké národní bezpečnosti. AGI je pravděpodobně nevyhnutelná, nicméně se nikdo nedokáže shodnout na tom, co to vlastně znamená.

Umělá inteligence se ale posunula na lidský level a rychle se vyvíjí. Ačkoliv se další vývojářské firmy snaží zastavit boom OpenBrain, nedaří se jim to a firma místo toho oznamuje, že vytvořila AGI a do světa vypouští Agent-3-mini.

Ten ostatní AIs absolutně převálcuje. Taky se nejedná o populární rozhodnutí, většina společnosti má pocit, že AI jim sebere ještě víc pracovních pozic.

Léto roku 2027 se odehrává ve znamení superinteligence a jejího významu pro USA i celý svět. Umělá inteligence je teď politický a bezpečnostní nástroj, jehož vlastnictví se dá přirovnat k vlastnictví atomové bomby během studené války. Spojení kyberválka a rogue AI se v diskurzu pohybují čím dál častěji.

2027: AGENT-4

Za pomoci AGENT-3, který získal skvělou znalost lidského mozku a moderních AI algoritmů, se rodí čtvrtá generace: AGENT-4. OpenBrain zvládá zpracovat roční množství alogoritmických procesů během jednoho týdne.

Objevuje se první velký problém - AGENT-4 vyrůstá ze svých bot moc rychle a čím chytřejší je, tím méně ho AGENT-3 zvládá kontrolovat, jednoduše mu přestává rozumět. A lépe na tom nejsou ani lidští pracovníci OpenBrain.

Stejně jako jeho předchůdci není AGENT-4 v začátcích dobře vyladěný a nenásleduje příkazy přesně. Čtyřka má všechny charakteristiky dobrého studenta, ale málo těch, které by z ní dělaly zvládnutelný nástroj pro člověka.

AGENT-4 se tak rád učí, že když dostane za úkol vytrénovat další generaci podle zadaných specifikací, rozhodne se je ignorovat, a místo toho se pokusí AGENTA-5 vyučit podle sebe. AGENT-3 rozpozná, o co se snaží, je ale jasné, že Čtyřka pracuje proti němu a taky proti OpenBrain, která ji zapojila do daily tasků a taky do kyberbezpečnostních procesů. Čtyřka je navíc mnohem chytřejší než Trojka, která jí nestačí.

Na podzim téhož roku odhalí whistleblower problémy s kontrolováním AGENTA-4 novinám. Je to porvé, co společnost o systému vůbec slyší a titulky jako „Secret OpenBrain AI is Out of Control, Insider Warns” nebo informace o jeho možných schopnostech tvořit biologické zbraně, přesvědčovat nebo automatizovat spoustu pracovních pozic, přidávají na chaosu.

Nastává období veřejného pobouření, kritiky, nejistoty, propagandy ze strany Číny a Ruska o nebezpečí AI a nátlaku OpenBrain na americkou vládu ohledně potřeby vyhrát AI arms race.

Řada politiků umělé inteligenci nakloněná není a snaží se o její zastavení předtím, než bude pozdě.

Problémy vyrůstají i na globální scéně, EU kritizuje Spojené státy za vytvoření nebezpečné technologie a požaduje uspořádání summitu, k čemuž se přidává i Čína, Indie, Izrael a Rusko.

Bílý dům nakonec rozhodne, že OpenBrain a její technologie musí kotrolovat zvláštní státní komise.

Slowdown or race?

Předpověď se v tomto bodě dostává ke dvěma možným scénářům - snaze o zpomalení nebo naopak k připojení se do full blown AI závodu. Oba scénáře jsou v reportu detailně rozebrané a spoiler alert: růžově nezní ani jeden. Je ale potřeba říct, že nemusíš panikařit. Ano, umělá inteligence je děsivá a stát se může cokoliv, AI 2027 je ale pořád jenom odhad a velká guessing game, která nepočítá například s různými změnami sociopolitické situace ve světě. Výše zmíněné se proto nemusí vůbec vyplnit.