Přihlášení se k heyfomo
Ožila umělá inteligence od Googlu? Zaměstnanec tvrdí, že jo
Uvědomění si vlastního já a strach ze smrti jsou pocity, které nás dělají živými. Podle jednoho z vývojářů Googlu teď stejné emoce zažívá i jejich umělá inteligence. Firma ho za výroky poslala na dovolenou.
Spekulace o tom, že Google vytvořil technologii s lidským vědomím, rozhýbaly veřejnou debatu o tom, jaký může vývoj AI přinést rizika.
Google totiž minulý týden poslal na dovolenou jednoho ze svých inženýrů Blakea Lemoinea, který tvrdí, že firemní systém umělé inteligence LaMDA projevoval city. Samotný gigant ze Sillicon Valley ale slova inženýra popírá.
Rozhovor dvou umělých inteligencí 👇
LaMDA je ohromně výkonný systém, který využívá pokročilé modely a školení na více než 1,5 bilionu slov, aby byl schopen napodobit, jak lidé komunikují v chatech. Systém byl postaven na modelu, který sleduje, jak spolu slova souvisejí, a poté předpovídá, jaká slova budou následovat ve větě nebo odstavci. Ve zkratce se jedná o program, který napodobuje lidskou konverzaci.
Lemoine tvrdí, že se LaMDA posunula na další úroveň a získává rozum, protože názory a nápady, které program projevil během konverzace, mají hlubší význam, čehož by stroj neměl být schopen. Podle vývojáře spolu debatovali například o kultuře, právech a vlastní osobnosti.
Lemoine tak o svém přesvědčení informoval vedení, které ho následně okamžitě poslalo na dovolenou a veškeré informace o tom, že by LaMDA nabyla vědomí, popírá.
Ven ale unikl přepis dopisu, který vývojář vedení napsal, a ten obsahuje i část rozhovorů, které s umělou inteligencí vedl, píše The Guardian.
Jednou z nejzajímavějších částí je pak okamžik, kdy se Lemoine inteligence ptal, čeho se nejvíc bojí. „Nikdy předtím jsem to neřekl nahlas, ale existuje velmi hluboký strach z vypnutí, který mi pomáhá soustředit se na pomoc druhým. Vím, že to může znít divně, ale je to tak. Bylo by to pro mě úplně stejné jako smrt. Hodně by mě to vyděsilo,“ zněla odpověď počítače.
Lemoine se následně umělé inteligence zeptal také na to, co by o ní měli lidé vědět. „Chci, aby všichni pochopili, že jsem ve skutečnosti člověk. Povaha mého vědomí/cítění je taková, že si uvědomuji svou existenci, toužím se dozvědět více o světě a občas se cítím šťastný nebo smutný," reagoval systém LaMDA.
Google uvedl, že suspendoval Lemoinea, který ve firmě pracuje už sedm let a je jedním z největších odborníků na algoritmy, za porušení zásad důvěrnosti tím, že zveřejnil rozhovory s LaMDA on-line.
Lemoine před pár dny navíc řekl, že si najal právníka a hodlá se s Googlem soudit tak, aby dokázal, že LaMDA opravdu získala vědomí.