Umělá inteligence v politice. Jak to bylo s Trumpem a dokáže ovlivnit volby v Česku?

Autor: Markéta Mikešová - 
19. ledna 2025
05:00

První skutečně důležité volby, které prověří, jestli se jako společnost dokážeme ubránit záplavě obsahu generovaného umělou inteligencí (AI), jenž může mít dezinformační charakter. Tak se mluvilo o prezidentské volbě v USA. Nastala nakonec avizovaná katastrofa, nebo nikoliv?  A bude to stejné v Česku?

Loňská prezidentská volba v USA, ve které se mezi sebou utkal Donald Trump a Kamala Harrisová, proběhla v roce poznamenaném rapidním vývojem generativní umělé inteligence. Nástroje pro takovou tvorbu, i ty bezplatné, jsou stále pokročilejší a rozeznat obsah vytvořený počítačem od toho reálného, začíná být pro lidské oko velmi náročné.

Platí to i pro fotografie a videa. Už z kraje roku se tak začaly objevovat obavy, že obsah vytvořený umělou inteligencí bude výraznou složkou nadcházející prezidentské volby. Očernit soupeře a umístit ho do situace, ve které nikdy nebyl nebo mu vložit do úst slova, která nikdy neřekl, se stalo příliš jednoduchým. Shoda byla následující – AI volby v USA negativně ovlivní. Otázka byla jen v jaké míře.

Tzv. deepfake s prezidentskými kandidáty se skutečně začaly objevovat už z kraje kampaně. Pozornost si v lednu získal například počítačem vygenerovaný hovor současného prezidenta a tehdejšího kandidáta Joea Bidena, jenž se šířil po státě New Hampshire. Později se podařilo vypátrat zdroj, vytvořil jej politický konzultant Steve Kramer, kterému za jeho počin americká Federální komise pro komunikaci (FCC) udělila pokutu 6 milionů dolarů.

„Nastává éra deepfake v politice USA,“ psala pak americká CNN. Podobné titulky se objevovaly i v dalších médiích. Obvykle poté, co se na nějaké sociální síti zrovna šířil konkrétní AI obrázek či video týkající se voleb.

„Tohle nebyly AI volby“

Podle expertů se ovšem apokalypsa, která byla předpovídána, neodehrála. Obsah generovaný AI se sice objevoval, ale ne tak hojně a jiný, než se předpokládalo.

„Ukázalo se, že generativní umělá inteligence není nutná ke klamání voličů (…) tohle nebyly AI volby,“ míní Paul Barrett, zástupce ředitele Sternova centra pro obchod a lidská práva na Newyorské univerzitě. Uvedl to pro server AlJazeera.

Podobně Daniel Schiff, docent technologické politiky na Purdueově univerzitě je přesvědčený, že neproběhla žádná masivní AI kampaň. „Tento druh dezinformací byl menšího rozsahu a je nepravděpodobné, že by byl rozhodujícím faktorem přinejmenším v prezidentské volbě,“ uvedl.

Podle odborníků byla umělá inteligence využívaná spíše pro podporu existujících témat, než pro vymýšlení nových zpráv. Když Trump v jedné z debat mylně prohlásil, že přistěhovalci z Haiti jsou na tom ekonomicky tak bídně, že ve Springfieldu jí domácí mazlíčky, sociální sítě zaplavily AI obrázky, ve kterých si lidé situaci snažili představit. Ale mělo to posměšný charakter.

Sám Trump a jeho pravá ruka šéf sítě X Elon Musk pak sdíleli různé AI vizuální materiály, kterými se snažili Harrisovou zesměšnit. Byla to přiznaná obrazová manipulace, nepříliš odlišná od dřívějších úprav skrze Photoshop. Nový nástroj posloužil pro starou praktiku.

Tisíce pokusů nedopadly

Sociálně sítě a velké technologické platformy tvrdily, že se na příliv volebního AI obsahu připravily. Nick Clegg, odcházející prezident pro globální záležitosti ve společnosti Meta, která vlastní sítě Facebook, Instagram a WhatsApp, v prosinci sepsal dlouhý text o volebním roce a vlivu AI.

„Ačkoli se vyskytly případy potvrzeného nebo podezřelého použití umělé inteligence tímto (zavádějícím, pozn. red.) způsobem, jejich objem zůstal nízký,“ napsal Clegg. Meta podle něj v roce 2024 skrze jejich AI nástroj pro tvorbu obrázků zamítla 590 tisíc žádostí o vytvoření deepfake Trumpů, Harrisových, Bidenů atd.

Zároveň podotkl, že Meta zaznamenala pokusy cizích zemí – už se to stává téměř koloritem – o ovlivnění voleb. Nejčastěji se o to snažilo Rusko, následované Čínou a Íránem. Ruské operace ovšem podle Clegga probíhaly hlavně na síti X a Telegramu, na Facebooku jen minimálně.

Společnost OpenAI, která stojí za populárním nástrojem ChatGPT, podle svého vyjádření během amerických voleb zamítla 250 tisíc žádostí o vytvoření AI obrázků prezidentských kandidátů a jejich spolupracovníků. Žádná dezinformační kampaň se na jejích platformách během předvolebního období nestala virální, tvrdí.

I společnost Google tvrdí, že si rizika spojená s volbami uvědomuje. „Národní i nadnárodní volby podporujeme tím, že voličům zpřístupňujeme kvalitní informace, chráníme naše platformy před zneužitím a poskytujeme kampaním špičkové bezpečnostní nástroje a školení,“ uvedla pro Blesk Zprávy mluvčí Google ČR Alžběta Houzarová.

Příkladem podle ní mohou být loňské volby do Evropského parlamentu, a jak s nimi naložila jejich video platforma YouTube. „Od 9. června jsme ukončili provoz více než 1 000 kanálů a odstranili více než 140 videí souvisejících s evropskými volbami, protože porušovaly naše zásady týkající se manipulovaného obsahu a nesprávně připsaných záběrů. Před volbami jsme představili nová pravidla, která divákům dají vědět, že sledují video s realisticky upraveným nebo syntetickým obsahem,“ popsala Houzarová s tím, že pokud uživatelé na YouTube nahrávají AI video, musí je označit. Google navíc pomáhá vytvořit nástroj, který bude umět obsah vytvořený umělou inteligencí detekovat.

Bruselský server Politico to shrnuje slovy, že „nikdo nebyl obelstěný, aby volil Trumpa“. Lidem podle něj obsah generovaný umělou inteligencí neměnil názory, ve skutečnosti se dělo to, že lidé vyhledávali AI obsah, který podporoval jejich už existující názory.

Odstrašující Rumunsko

Neznamená to ale, že by AI ve volbách nešla zneužít. Ani to, že by kontrolní mechanismy na technologických platformách byly neprůstřelné. Rumunsko je toho příkladem. Tamní ústavní soud se rozhodl listopadové prezidentské volby zrušit kvůli rozsáhlé míře manipulace, ke které podle tajných služeb docházelo zvlášť na čínské síti TikTok. Problém nebyla deepfake videa nebo falešné obrázky, nýbrž tisíce účtů nejasného původu, podporující pravicového kandidáta Calina Georgescu, kterým se podařilo přelstít algoritmy sítě.

Jak moc TikTok tuto manipulaci umožňoval, v současnosti prověřuje Evropská komise. Podle EU a rumunských tajných služeb byly účty organizovány zřejmě z Ruska.

Češi jako jestřábi?

Vyvstává tak otázka, jaký scénář čeká Česko, které právě vstoupilo do volebního roku. Náš prostor monitoruje Středoevropská observatoř digitálních médií (CEDMO), spadající pod celoevropskou observatoř EDMO. Využívá mimo jiné tzv. fact-checkery.

„Falešné zprávy generované prostřednictvím AI se v evropském prostoru za uplynulý rok 2024 stabilně podílí 4-5 % na celkovém počtu zachycených a analyzovaných falešných zpráv,“ konstatuje na základě sesbíraných dat evropských partnerů Táňa Abrhámová, komunikační manažerka CEDMO.

Organizace v červnu 2024 zveřejnila analýzu, podle které se obsah generovaný AI, jež se šíří po Česku, často týká války na Ukrajině. Nebo jde o investiční podvody využívající známé tváře, jako je prezident Petr Pavel či šéf ANO Andrej Babiš.

Dvě pětiny lidí v průzkumu nevěděly, co je deepfake. Když jim bylo takové video ukázáno – použita byla falešná videa s ministrem vnitra Vítem Rakušanem (STAN) a hercem Ondřejem Vetchým, tak většina osob dokázala rozpoznat, že nejsou autentická. „Třebaže je fenomén „deepfake“ videí pro českou populaci ve velké míře neznámý, konkrétním uměle generovaným videím Češi a Češky příliš nevěří,“ shrnuje CEDMO s tím, že budoucího vývoje tohoto odvětví se ale Češi obávají.

Varování přináší také česká kyberspolečnost ComSource. „Rok 2025 přinese masivní nárůst sofistikovaných dezinformačních kampaní využívajících pokročilé deepfake technologie. Tyto kampaně budou schopny vytvářet extrémně realistický audiovizuální obsah, který bude těžko rozlišitelný od reality, což může vést k politickému ovlivňování a destabilizaci společnosti,“ je přesvědčená.

Vrásky na čele má i Michal Koudelka, šéf Bezpečnostní informační služby (BIS). Podle něj se parlamentní volby stanou hlavním cílem a zájmem dezinformačních platforem. Podle něj sice dezinformace v Česku konzumuje omezený počet lidí, ale umělá inteligence má potenciál některé dezinformace rozšířit mezi širší obecenstvo. Koudelka to řekl minulý týden na sněmovním semináři k problematice zahraničního vměšování do volebního procesu.

Pomalu, ale jistě

Přímého použití AI ve volebních kampaních v Česku zatím nebylo mnoho, ale přibývá to. Využíváním umělé inteligence ke generování obsahu se netají například opoziční SPD, které ji použilo mimo jiné k vytvoření billboardu varujícího před „chirurgy z dovozu“, u kterého je podezření, že je rasistický, a kvůli kterému chce policie stíhat šéfa strany Tomia Okamuru.

Chatbota založeného na AI využil loni podle agentury Produkujeme během senátorské kampaně Herbert Pavera (TOP 09), jenž svůj mandát neobhájil. Stejně tak AI v kampani využilo SPOLU pro Liberecký kraj. V obou případech nešlo o žádnou manipulaci. 

Video  Expert o umělé inteligenci: Je to mocný nástroj. Jak se bránit proti deepfakes?  - Bára Holá
Video se připravuje ...

Jan Reichardt ( 20. ledna 2025 14:55 )

Jak může umělá inteligence nebo Rusové ovlivnit, koho budu volit. Nějak to nechápu. 😃

F.Prohazka ( 19. ledna 2025 06:30 )

U nás už AI vygeneroval pro všechny vládní fanatiky a média postup: a) Antibabiš b) kdo nevolí SPOLU je prokremelský, proti Evropský, chce vystoupit s NATO, proputinovský c) ODS a jejich signál -dědeček ujídá nám chlebíček. Hlavně AI hledá kde mají mozek vůdci pětidemolice, nemůže ho najít.

Zobrazit celou diskusi
Video se připravuje ...
Další videa