Česko nemá na falešné Babiše a Pavly páky. Naděje je však na obzoru, advokátka řekla víc
Zajistěte si stabilní pasivní příjem, stačí investovat pár tisíc korun a násobky této částky se budou jen hrnout, slibují na videích, která šíří po internetu šéf ANO Andrej Babiš a prezident Petr Pavel. Jenže to nejsou oni, ale produkt umělé inteligence. Někdo zneužil jejich hlas a obličej a zdaleka nejsou jediní, komu se to stalo. Oběti tohoto podvodu se ale nemají jak bránit, chybí legislativa. Změnit by to mohlo nařízení o umělé inteligenci, které v březnu schválili europoslanci.
„Je důležité zmínit, že všichni investoři na naší platformě získají možnost vydělávat kolem 170 tisíc českých korun každý měsíc. S hrdostí oznamuji tuto významnou událost v životě každého občana České republiky,“ láká ke stabilnímu pasivnímu příjmu na jednom z videí falešný Babiš.
Podobně hovoří na dalším falešný Pavel. „Poskytuji přístup ke své platformě pro své krajany z mé vlasti. Pro spuštění systému je vyžadována minimální investice ve výši šest tisíc českých korun. Toto je minimální částka, od které systém začne provádět ziskové obchody na akciových a kryptoměnových trzích,“ říká osoba připomínající českého prezidenta.
Obě videa mají to společné, že jde o tzv. deep fake. Tak se nazývá zmanipulovaný obsah, typicky obrázky a videa, těžko rozpoznatelný od skutečnosti. Obvykle zobrazuje reálné osoby, které jsou pomocí umělé inteligence umístěny do situací, které se nikdy nestaly a do úst jsou jim dána slova, co nikdy neřekly.
Stále větší hrozba
V dnešní době už lze deep fakes, jako byly ty s Pavlem a Babišem vytvořit velmi jednoduše, nástroje umělé inteligence, které to dokážou, jsou velmi dostupné. Falešných videí proto stále více přibývá. Obětí se stal také například ministr vnitra Vít Rakušan (STAN), kde někdo vytvořil zmanipulované video z jeho výjezdu do Karviné.
„Bylo to legrační, kdyby problematika zneužívání AI nebyla ve skutečnosti tak nebezpečná. Před bezpečnostními experty staví úkol, jak se s jejím nástupem vypořádat. My ostatní mezitím musíme používat zdravý rozum a ověřovat si informace,“ reagoval na video Rakušan.
Upozornil tím na fakt, že deep fake obsah ještě není dokonalý. Falešný Babiš, Pavel, ale i Rakušan na videích působí strojeně a mluví nedokonalou češtinou. Je vidět, že je vytvořil počítač. Problémem ale je, že to není vidět až tolik, a například pokud si člověk video pustí na malém displeji a nedává příliš velký pozor, může být ošálen.
Právě proto jsou deep fake videa tak nebezpečná. Zatímco někdy se vás budou falešní politici snažit „pouze“ okrást, jako v případě zmanipulovaného Babiše a Pavla, tak jindy půjde o dezinformace vytvořené za účelem politického boje, jako v případě Rakušana. A nemusí se zůstávat jen na lokální úrovni, hrozba je přítomná i u voleb do evropského parlamentu.
I proto již Evropská unie požádala velké internetové platformy, aby se před volbami připravily na zvýšenou moderaci obsahu. Povinnost spadá na platformy, které pokrývá evropské nařízení o digitálních službách, což jsou ty největší – Facebook, YouTube, TikTok, YouTube, X atd. Pokud deep fake obsah zaregistrují, měly by ho podle EU na svých sítích označovat.
Chybí trestněprávní přesah
Jenže to neřeší jádro problému, které je, že deep fake videa vůbec vznikají. V současnosti totiž jejich tvorba není trestná, ani když jsou zneužity známé osobnosti. Podle mluvčího policejního prezidia Ondřeje Moravčíka u všech falešných Pavlů a Babišů chybí trestněprávní přesah, na základě kterého by autory takových videí mohla policie stíhat.
„Aby to bylo trestněprávně relevantní, tak bychom se bavili vyloženě o konkrétních specifických druzích pornografie, to znamená fotografie s dětmi nebo se zvířaty nebo nějaké znásilnění, takže to kopíruje trestní zákoník, to, co je trestního s pornografií v běžném režimu,“ vysvětlil Moravčík pro Blesk Zprávy.
„Ale to, že někdo zneužije váš obličej k tomu, aby vás nalákal na investice, tak se dopouští možná podvodu, ale pan Babiš a Pavel nejsou v tomto případě obětí trestného činu,“ dodal mluvčí policejního prezidia.
Resort spravedlnosti už má návrh
S legislativou kolem deep fake videí aktuálně bojují země po celém světě. Nejčastěji se objevují pokusy kriminalizovat specificky tvorbu deep fake pornografie, návrh takového zákona existuje například v USA. Politici s ním přišli urychleně poté, co nedávno internet zaplavily nahé fotky a videa americké zpěvačky Taylor Swift vytvořené umělou inteligencí.
Nový trestný čin nazvaný „zneužití identity k výrobě pornografie a její šíření“ chce zavést i české ministerstvo spravedlnosti. Pachatelům by hrozilo až pět let za mřížemi, novinku by měla přinést novela trestního zákoníku. „Výše uvedené jednání, tedy výroba, distribuce, ale především zveřejnění pornografických materiálů bez souhlasu a naprosto většinově i bez jakéhokoli předchozího vědomí zobrazované osoby je činností vysoce společensky škodlivou, na kterou je potřeba reagovat prostředky trestního práva,“ stojí v novém paragrafu. Novela je již v připomínkovém řízení, vláda by se k ní mohla dostat ještě v první polovině tohoto roku.
Větší změnu přinese AI akt
Co se týče deep fake obsahu, který neobsahuje pornografii, tam je to složitější. České úřady od začátku vlastní zákonnou úpravu nechystaly, protože existovaly zprávy, že s úpravou přijde evropské nařízení o umělé inteligenci. To bylo po bouřlivém dohadování schváleno v evropském parlamentu v březnu.
„Ministerstvo vnitra v současnosti o úpravě ‚deep fakes' nad rámec nařízení o umělé inteligenci neuvažuje. Koordinaci přípravy vnitrostátní legislativy, která bude v různých ohledech reagovat na nařízení o umělé inteligenci, provádí Úřad vlády,“ vzkázal Blesk Zprávám Ondřej Krátoška z oddělení komunikace ministerstva vnitra.
Nařízení deep fakes poprvé přesně definuje jako „obrazový, zvukový nebo video obsah vytvořený nebo manipulovaný umělou inteligencí, který se podobá existujícím osobám, objektům, místům nebo jiným subjektům či událostem, a přitom se může falešně jevit jako autentický nebo pravdivý“.
Podle Moravčíka by díky této evropské legislativě mohl být větší prostor deep fakes potírat. Ale detaily ještě budou muset být vyjasněny. „Záleží na zákonodárcích,“ podotkl policejní zástupce. Nařízení bude od roku 2026 závazné v celé Evropské unii s tím, že některé části regulace budou vymahatelné dříve.
Advokátka: Produkty AI systémů budou muset být označovány
I podle advokátky Lenky Hankové z poradenské kanceláře Rödl nařízení o umělé inteligenci určitou regulaci tohoto obsahu přinese. „Bude převážně regulovat povinnosti těch, kdo systémy s umělou inteligencí vyvíjejí a poskytují je na trh. Ve vztahu k ‚deep fakes' však nařízení zavádí povinnosti i pro ty, kdo s umělou inteligencí pracují a používají ji,“ popsala pro Blesk Zprávy.
„Systémy, které dokáží vytvořit ‚deep fakes', nejsou v rámci tohoto nařízení přímo zařazeny mezi vysoce rizikové systémy, ani mezi systémy používající v nařízení definované zakázané postupy. Ve většině případů tak půjde o tzv. obecné systémy umělé inteligence,“ vysvětlila advokátka s tím, že nařízení zdůrazňuje hlavně princip transparentnosti.
„To znamená, že osoby, ke kterým výstup ze systému umělé inteligence směřuje, by měly být informovány už při prvním kontaktu s ním, že jde o uměle vytvořený nebo zmanipulovaný obsah. Už sami výrobci systémů umělé inteligence by měli tyto systémy technicky navrhnout tak, aby jejich výstupy byly takto označovány ve strojově čitelném formátu a daly se rozpoznat,“ přidává Hankové detaily.
Podle ní si politici v EU uvědomují, že deep fakes nemusí mít nutně dezinformační charakter, mohou být součástí uměleckého díla. Proto takový obsah nechtějí plošně zakázat, cestou je označování. Ne všechna použití jsou a budou ale beztrestná, upozorňuje advokátka.
Zatím nedokáže odhadnout, zda všechna nová pravidla pomůžou. „Již teď vidíme, že pro zamezení šíření falešného a nezákonného obsahu jsou přijímána čím dál složitější pravidla a kontrolní mechanismy, které ale stačit nemusí. Ne vždy se totiž podaří vypátrat původce škodlivého obsahu a potrestat ho,“ zamýšlí se Hanková a připomíná fakt, že z internetu je vždy odstraňování nebo zamezování šíření obsahu složité. Proto je přesvědčená, že je důležitá osvěta. „Aby se lidé naučili rozpoznat uměle vytvořený obsah, ověřili si pravdivost informací a byli obezřetní,“ říká.
Takovému chytáku může uvěřit jen bloud,který nemá o financích žádné tušení, nebo tak miliuje ony dva, že přestává myslet.
Že mnoho občanů o politice nepřemýšlí bývalá vidět na výsledcích voleb, ale používat své peníze, k tomuto účelu, snad dokáže jen hamižný hlupec.