Varování europoslanců: Umělá inteligence se vyvíjí příliš rychle, je třeba summit o její kontrole

Dvanáct europoslanců, kteří pracují na unijních právních předpisech týkajících se této technologie, vyzvalo amerického prezidenta Joea Bidena a předsedkyni Evropské komise Ursulu von der Leyenovou ke svolání vrcholné schůzky. Uvedli také, že firmy zabývající se umělou inteligencí by měly být zodpovědnější.

Prohlášení přišlo několik týdnů poté, co majitel Twitteru Elon Musk a více než tisícovka akademiků, expertů a podnikatelů zapojených do vývoje umělé inteligence požadovali šestiměsíční pauzu ve vývoji systémů výkonnějších než nejnovější generace ChatGPT. Chatovací robot společnosti OpenAI podporované Microsoftem dokáže napodobovat člověka a vytvářet text a obrázky na základě pokynů.

„Čuměl jsem s otevřenou pusou.“ Umělá inteligence mezi českými politiky budí obdiv i obavy

Přechytračí nás a nahradí

V otevřeném dopise, který v březnu zveřejnila nezisková organizace Future of Life Institute, se objevilo varování, že umělá inteligence může šířit dezinformace nebývalou rychlostí. Podle signatářů petice stroje mohou „přečíslit, přechytračit, zastarat a nahradit“ člověka, pokud nebudou kontrolovány.

Poslanci Evropského parlamentu uvedli, že nesouhlasí s některými tvrzeními v petici. „Nicméně souhlasíme s hlavním poselstvím dopisu: S rychlým vývojem výkonné umělé inteligence vidíme potřebu významných politických opatření,“ dodali.

Zákonodárci v dopise vyzvali demokratické i „nedemokratické“ země, aby se zamyslely nad možnými způsoby řízení a aby byly zdrženlivé při prosazování velmi výkonné umělé inteligence.

Mluvčí von der Leyenové na žádost o komentář bezprostředně nereagoval.

Čínský úřad pro správu kyberprostoru (CAC) minulý týden představil návrh opatření pro systémy umělé inteligence s tím, že chce, aby firmy předkládaly úřadům posouzení bezpečnosti dříve, než svou nabídku spustí pro veřejnost.

Bidenova administrativa rovněž žádá veřejnost o připomínky k možným opatřením týkajícím se odpovědnosti za systémy umělé inteligence, neboť se objevují otázky ohledně jejich dopadu na národní bezpečnost a vzdělávání.

Evropská komise před téměř dvěma lety navrhla pravidla pro zákon o umělé inteligenci, podle něhož mají být nástroje tohoto typu klasifikovány podle vnímané míry rizika, od nízké po nepřijatelnou. Podle dvou zdrojů obeznámených se záležitostí projednává 108stránkový návrh parlamentní výbor, který doufá, že do 26. dubna dospěje ke společnému stanovisku.