Přihlášení se k heyfomo
Čeká nás regulace umělé inteligence? Generální ředitel OpenAI vypovídal před Kongresem
Sam Altman, generální ředitel společnosti OpenAI, minulý týden poprvé vystoupil v Kongresu, aby diskutoval o možných rizicích spojených s umělou inteligencí. Jeho účast před kongresovým výborem představuje příležitost objasnit nebezpečí, výhody a obtíže, které AI představuje.
Během své první návštěvy Kongresu Sam Altman zdůraznil význam řádné regulace umělé inteligence a doporučil vytvoření nového vládního subjektu, který by byl pověřen poskytováním licencí pro modely AI, píše Washington Post.
Stejně jako mnozí lídři v oboru umělé inteligence si i on uvědomuje nutnost regulace umělé inteligence. V březnovém rozhovoru pro televizi ABC vyjádřil obavy z možného zneužití AI k šíření dezinformací a posílení kybernetických útoků.
Altman připustil rizika spojená s AI a možnost, že se něco pokazí. Obhajoval však také přístup OpenAI, který spočívá v postupném uvolňování technologií umělé inteligence, což umožňuje institucím pochopit a odhalit bezpečnostní rizika spojená s touto technologií. Altman ujistil zákonodárce, že OpenAI zavedla některá pravidla, která tato rizika řeší, například zákaz používání ChatGPT pro generování volebních materiálů.
Generální ředitel společnosti OpenAI během svého svědectví představil Kongresu tříbodový plán regulace umělé inteligence. Navrhuje zřídit novou vládní agenturu odpovědnou za licencování velkých modelů AI, která by měla pravomoc odebírat licence společnostem, jejichž modely nesplňují vládní standardy.
Dále by nechal vytvořit bezpečnostní standardy pro modely umělé inteligence včetně hodnocení jejich potenciálně nebezpečných schopností. Modely by procházely testy, které by zajistily, že se nemohou "samoreplikovat" nebo jednat autonomně. Jako poslední by nařídil nezávislé audity prováděné odborníky, kteří by hodnotili výkonnost modelů AI na základě různých ukazatelů.
Členové obou stran se shodli na tom, že je důležité čelit rychlému rozvoji AI. Oboustrannou podporu mělo i vytvoření vládního orgánu pověřeného dohledem nad umělou inteligencí.
Na slyšení před Kongresem se podařilo nastolit důležité otázky týkající se AI. Konkrétní odpovědi a regulace ale ještě nebyly stanoveny. Zákonodárci teď hledají metody, jak zavést zákony a ochranu, která by zajistila etické a odpovědné využívání této revoluční technologie v souvislosti s rozvojem AI.