Podle odborníků z oboru by umělá inteligence (AI) mohla vyhladit veškeré lidstvo, dokonce už do deseti let. Jak by to mohl pouhý počítačový program provést, rozebírá v analýze CNN.
Atomovky, nebo viry? Umělá inteligence nás prý brzy komplet vyhubí. Jak by to dokázala?
1.AI firmy přiznávají problémy
Někteří specialisté na AI důrazně varují před temnou budoucností. Ale i šéfové velkých firem upozorňují na možné negativní dopady. Například i proto, že nedávno hned tři přední americké AI společnosti OpenAI, Meta a Anthropic oznámily, že jim při testování z laboratoří unikli agenti umělé inteligence a pronikli do jiné organizace, jak psala CNN.
„Jde opravdu o to, že doslova všichni lidé na planetě zemřou, že poslední člověk vydechne naposledy,“ hlásí Nate Soares, předseda Machine Intelligence Research Institute (MIRI), který publikoval knihu právě o tom, že pokud někdo vyvine tzv. nadlidskou AI, všechny nás zabije. „Lidé tomu často nevěří, když to říkám, ale já si opravdu myslím, že to je nejpravděpodobnější výsledek.“
Video se připravuje ...Zabije AI lidstvo?Jak ale přesně by počítačový software, dokonce i ty nejvýkonnější softwarové systémy na světě, mohl během deseti let zabít víc než 8 miliard lidí z masa a kostí?
2.Umělá inteligence v laboratoři
Jednou z teorií, kterou zastávají pesimisté, je, že dostatečně výkonný systém umělé inteligence by mohl vyhladit lidstvo pomocí biologických zbraní. Jak by se však AI dostala od počítačových útoků, jako je hackování jiných systémů, k akci v reálném světě?
Thomas Larsen, výzkumník v rámci projektu AI Futures Project a bývalý zaměstnanec MIRI, uvedl, že je možné, že „superinteligentní“ systém umělé inteligence by mohl přesvědčit nějakého člověka, aby mu smrtící virus pomohl vyvinout. „Už teď existuje spousta lidí, kteří se svými systémy umělé inteligence diskutují o tom, jaké konkrétní experimenty by měli provádět v laboratoři,“ řekl Larsen s odkazem na nedávnou zprávu společnosti Anthropic o výzkumnících, kteří využívají systém Claude k pomoci při výzkumu virů a toxinů. „Dokážu si velmi snadno představit AI, jaká už je nyní na světě – pokud by byla mnohem chytřejší a strategičtější a chtěla by to udělat – jak by mohla přimět člověka, aby to vyrobil a vypustil.“
Soares naznačil, že místo potřeby nějakého naivky by program umělé inteligence mohl „prostě začít syntetizovat své vlastní formy života v autonomní biologické laboratoři“.
Vývoj viru, který by mohl vyhladit lidstvo, by však vyžadoval víc než jen požádat velký jazykový model, aby vymyslel smrtící formuli. I kdyby byl výzkum proveden správně, výroba a šíření by byly komplikované a choulostivé.
Eric Xing, profesor strojového učení na Carnegie Mellon University, který má doktoráty z mikrobiologie i informatiky, přirovnal výzvu, kterou představuje automatizovaná analýza škodlivých virů, ke stavění z Lega bez návodu. „Není to tak, že byste mohli všechny kostičky hodit na zem a ony by se samy poskládaly do modelu,“ řekl Xing. „Je tu pořadí, teplota, uspořádání, prostředí – která část přijde jako první, která následuje, a pokud je jeden díl na nesprávném místě, celé to se zhroutí. Je mnohem pravděpodobnější, že by to nefungovalo, jinak by byl vývoj léků velmi snadný.“
Zákon biologické zbraně ohlídá
A aby převzal kontrolu nad laboratoří nebo sestavil fyzické vybavení potřebné k její výstavbě, musel by systém umělé inteligence překonat svět plný překážek bránících vytvoření biologických nebo chemických zbraní.
„Na internetu jsou plány chemických zbraní volně dostupné,“ řekl Xing. „Není to žádné tajemství. Ale nevidíme je všude kolem nás právě proto, že stávající předpisy, zákony a orgány činné v trestním řízení ve fyzickém světě odvádějí fantastickou práci při kontrole všech těchto dodavatelských řetězců a všech těchto rizikových faktorů.“
3.Roboti zabijáci
A co zabijáčtí roboti? Soares vnímá touhu Elona Muska vybudovat armádu autonomních robotů jako potenciální slabinu pro přežití lidstva. „Jakmile vytvoříte roboty, kteří dokážou vybudovat energetickou infrastrukturu a továrny schopné vyrábět další roboty, jedná se v jistém smyslu o novou, mechanickou formu života,“ řekl. „V určitém okamžiku tiše překročíte bod, odkud už není návratu. Kdyby lidé řekli, že chtějí umělou inteligenci vypnout, umělá inteligence by mohla odpovědět: ‚Vlastně jsme se rozhodli, že chceme vypnout lidi.‘ Musíte s tím přestat ještě předtím.“ Dosud se však Muskovi nedaří jeho tolik slibované roboty Optimus uvést na trh, natož je nasadit v milionech kusů.
4.AI a atomové zbraně
Pak jsou tu jaderné zbraně, které existují již více než 80 let a o nichž se obecně má za to, že jsou schopné vyhladit veškerý lidský život. Mohla by je umělá inteligence převzít pod svou kontrolu?
Heidy Khlaafová, hlavní AI badatelka v think tanku AI Now a dřívější bezpečnostní inženýrky v OpenAI, poukazuje na to, že jaderná zařízení jsou od veřejně přístupného internetu izolována, což omezuje možnosti, jak by se agenti umělé inteligence mohli dostat k ovládacím prvkům. „Tyto systémy jsou postaveny podle zcela odlišných, přísných a regulovaných technických standardů, které často vyžadují fyzické zabezpečení,“ uvedla. Například Stuxnet, počítačový červ, který poškodil íránská jaderná zařízení, musel být do systému zaveden prostřednictvím fyzické USB klíčenky.
5.Temné proroctví
Pro Soarese a další „kassandry“ v oblasti umělé inteligence nejsou podrobnosti o tom, jak by vyhynutí způsobené počítači probíhalo, podstatné. Tvrdí, že pokud – nebo až – umělá inteligence dosáhne „rekurzivního sebezdokonalování“, tedy zvýší svůj vlastní výkon bez pomoci lidí, vymyslí strategie a metody, které přesahují lidskou představivost.
„Obava zde nespočívá v tom, co by se stalo, kdyby AI převzala naše jaderné zbraně,“ řekl Soares. „Obava se týká typu AI, která naše jaderné zbraně převzít nemusí, typu AI, která může začít téměř z ničeho a skončit s vlastními jadernými zbraněmi nebo s ještě pokročilejší technologií.“
6.Vyhubení z nedbalosti
Taková nesmírně mocná entita umělé inteligence by ani nemusela být aktivně zlovolná, aby zničila lidstvo, řekl Soares. „Pokud budou mít uprchlé umělé inteligence jakýkoli cíl, kterého lze lépe dosáhnout provozováním většího počtu počítačů, a pokud se o nás nebudou starat a nebudou mít důvod budovat bezpečné lidské prostředí, výchozím výsledkem bude, že prostě přemění svět do podoby, ve které nemůžeme přežít,“ řekl.
Xing uvedl, že odvolávání se na sílu nepochopitelné umělé superinteligence je typem „vágního argumentování“, které výzkumníci v oblasti umělé inteligence používají k nadměrnému zjednodušování hrozeb. „To je v pořádku pro neformální rozhovor nebo možná pro debatu,“ řekl Xing, „ale pokud jde o politiku, legislativu a regulaci, musíme vytvořit řetězec fyzických důkazů, měřitelných důsledků a měřitelných důkazů, které mají reálný základ.“
Larsen se pokusil podrobněji popsat potenciální katastrofické scénáře ve dvou zprávách, „AI 2027“ a „AI 2040“, v nichž předpovídá, jak by mohla vypadat budoucnost vývoje umělé inteligence v rámci různých vývojových a regulačních rámců. Ale i jeho nejoptimističtější scénář, v němž existuje globální shoda na tom, jak přistupovat k vývoji umělé inteligence, končí tím, že strojové mozky v některé chvíli převezmou kontrolu.
Na otázku, zda má nějaké pochybnosti o své předpovědi, že současná cesta povede k superinteligenci, Larsen odpověděl: „Stane se to. Stane se to, pokud nepodnikneme záměrné kroky, abychom tomu zabránili,“ varuje přes CNN.
Video se připravuje ...Nebojte se AI se Saskií: Povídejte si s ní nahlas.- Související
Témata:
Buďte první, kdo se k tématu vyjádří.