Video se připravuje ...
Zabije AI lidstvo?
Umělá inteligence se vymyká, varují experti. Firmy ale dál tlačí na překotný rozvoj
Pozornost veřejnosti si svým odchodem ze společnosti Anthropic začátkem září získal výzkumník na poli umělé inteligence Jacob Coxon. Rezignací na svůj post ve firmě chtěl upozornit na rychlé tempo ve vývoji AI a nezodpovědný přístup některých lídrů odvětví. S vážně míněnými varováními však přicházejí vědci a někteří z podnikatelů v oblasti výpočetní techniky již více než dekádu, upozornil deník The Guardian. Přesto se zdá, že se celý sektor točí v „začarovaném kruhu“.
Již v roce 2014 vyřkl astrofyzik Stephen Hawking varování, že „vývoj umělé inteligence by mohl znamenat konec lidského pokolení“. Ani ne deset let poté se pokročilé modely umělé inteligence dostaly do rukou veřejnosti. Po Hawkingovi následovala řada dalších vědců či podnikatelů v oboru, kteří upozorňovali na nebezpečí spojená s překotným rozvojem AI.
Posledních pár let dochází k rozkolům na poli vývoje umělé inteligence se stále vyšší frekvencí. Výzkumné týmy a technologičtí lídři téměř každý měsíc vydávají nová varovná prohlášení o nebezpečí nezodpovědného přístupu k vývoji umělé inteligence. Namísto prosazení zastavení vývoje se však téměř vždy část výzkumníků odštěpí a založí novou společnost zabývající se vývojem AI.
Jen málokterá událost měla ovšem takový dosah jako nedávná rezignace výzkumníka v oblasti bezpečnosti firmy Anthropic Jacoba Coxona, jehož prohlášení o „společnostech směřujících k sebezdokonalující se superinteligenci a hazardujících s lidskými životy“ se stala virálními. K jeho obavám se záhy připojily i desítky zaměstnanců Anthropicu, OpenAI i konkurenčních subjektů.
Několik dní nato generální ředitelé společností pohybujících se v odvětví zareagovali na výzvu šéfa Anthropicu Daria Amodeiho, aby zpomalili „bezohledný přístup k vývoji umělé inteligence“. „Umělá inteligence s sebou nese rizika, a vzhledem k tomu, že se jedná o tak mocnou technologii, jsou tato rizika závažná. I já jsem o nich již hodně psal. Patří mezi ně riziko ztráty kontroly nad systémy umělé inteligence, zneužití umělé inteligence ke kyberútokům a bioterorismu a závažné narušení ekonomiky. Závod ke dnu, poháněný komerčními pobídkami, může tato rizika ještě více prohloubit,“ napsal Amodei na svém blogu.
Obavy existují již přes dekádu
Hawking se kdysi obával, že umělá inteligence dosáhne stádia, kdy „lidé, kteří jsou omezeni pomalou biologickou evolucí, nebudou schopni s ní soutěžit a budou nahrazeni,“ uvedl v jednom z rozhovorů pro BBC. V té době byl největším jménem v odvětví Google, který v lednu 2014 dokončil akvizici startupu zabývajícího se umělou inteligencí DeepMind.
Podle dalších „velkých hráčů“ v IT sektoru Elona Muska a Sama Altmana však Google ani jeho konkurenti neměli k vývoji AI dostatečně odpovědný přístup. Obavy, že by se umělá inteligence mohla časem stát nebezpečnou pro lidstvo, je nakonec vedly k založení neziskové organizace OpenAI, která se od roku 2015 věnuje jejímu „bezpečnému vývoji“.
Společnost deklarovala, že hodlá „AI rozvíjet způsobem, který prospěje lidstvu jako celku bez nutnosti generovat finanční zisk“. Brzy se však stalo zřejmým, že některá z rozhodnutí Altmana a Muska byla motivována konkurencí. „Hodně jsem přemýšlel o tom, zda je možné zabránit lidstvu ve vývoji umělé inteligence. Myslím, že odpověď je téměř s jistotou ne. Pokud k tomu stejně dojde, zdá se, že by bylo dobré, aby to jako první udělal někdo jiný než Google,“ napsal Altman v roce 2015 Muskovi v jednom z e-mailů zveřejněných v roce 2024 v rámci Muskovy žaloby proti OpenAI.
Podle řady zaměstnanců OpenAI se časem priority společnosti posunuly dále od zajištění bezpečnosti. V roce 2021 opustila firmu část zaměstnanců zaměřující se na etiku a sladění (alignment) AI. Důvodem prý bylo upřednostnění komerčních cílů před budováním bezpečného prostředí. Právě tito odpadlíci založili následně společnost Anthropic.
Hlavním smyslem existence Anthropicu je podle jeho zahladatelů Daria a Daniely Amodeiových „zabývat se bezpečností a výzkumem umělé inteligence způsobem, který prospívá lidem“. Coxon, který nedávno v odvětví vyvolal vlny svými prohlášeními, pracoval jak pro OpenAI, tak pro Anthropic.
Bludný kruh
„Základním předpokladem každé z těchto firem je, že umělá inteligence je bezpečná pouze v jejich rukou a že pokud ji nevyvinou oni, udělá to někdo jiný. Investují doslova miliardy dolarů do budování umělé inteligence ve stále větším měřítku a první věcí, na které se šetří, jsou smysluplné investice do základních bezpečnostních protokolů,“ popsala bludný kruh spoluvýkonná ředitelka institutu AI Now Sarah Myers Westová.
Podobnou krizi, co se týče otázky bezpečnosti a komerčních cílů, řešil v roce 2020 také Google. Tehdy byla z vedoucí pozice v týmu pro etickou AI odvolána dr. Timnit Gebruová. Stalo se tak po zveřejnění jejího článku, který pojednával o zaujatosti v případě přístupu k potenciálním škodám způsobeným systémy umělé inteligence v reálném čase. Gebru poté založila nezávislou výzkumnou firmu Distributed AI Research Institute. V roce 2023 z Googlu odešel také nositel Nobelovy ceny Geoffrey Hinton, důvodem byly jeho obavy ze zneužití AI „zlovolnými aktéry, kteří by jednoho dne mohli ublížit lidstvu“.
Se stejnými obavami, kterým čelil ze strany svých zaměstnanců Google, se nyní potýká Anthropic. Více než 1000 vedoucích pracovníků z Anthropicu, ale také z Mety, Googlu či OpenAI v červenci podepsalo petici, v níž požadují po vládě USA, aby zavedla opatření ke zpomalení vývoje AI.
Petice byla reakcí na červencové oznámení OpenAI, že autonomní agent poháněný jejími pokročilými modely AI se při bezpečnostním testu vymkl kontrole a způsobil narušení infrastruktury start-upu Hugging Face. OpenAI označila tento únik za „bezprecedentní kybernetický incident zahrnující špičkové kybernetické schopnosti“. Reuters dříve uvedl, že firma do té doby často současně testovala několik různých modelů. Testy probíhaly velmi rychle a vytvářely obrovské množství dat, která zaměstnanci jen obtížně stíhali vyhodnocovat. Následně společnost oznámila, že zpomalí vývoj svých modelů umělé inteligence.
Témata:
Související
Začíná to jako v Terminátorovi.