„Fake news“ už zvládnou tvořit počítače samy. Bude to problém, varují odborníci

„Fake text“ označuje technologii, která dokáže uměle generovat věrohodný text. Může tak např. vzniknout chat pouze mezi boty,“ popisuje CTHH problém. Co je bot? Označuje počítačový program, který vykonává automatizovanou činnost na internetu. Někdy může napodobovat i chování člověka.

Příklady takto vytvořeného textu lze dohledat například na americkém diskuzím fóru Reddit. Najdete tu vlákno, kde se několik uživatelů baví o tom, jak uvařit vajíčko. Odpovědí je zde několik, někdo přidává rady, někdo se nad nimi podivuje. Jenže nikdo z těchto diskutujících není reálný a všechny zprávy vytvořil počítač – povídají si mezi sebou boti.

Za technologií stojí nezisková organizace OpenAI, která se zaměřuje na výzkum umělé inteligence (AI). V roce 2015 ji založili populární vizionář Elon Musk a Sam Altman s cílem hledat přátelské využití AI a ne škodlivé, které by mohlo poškodit lidstvo. Konkrétně Musk dlouhodobě varuje, že umělá inteligence nás všechny jednou zničí.

Zákaz houbaření i Zemanovo zdraví: Seniory straší falešné zprávy, jak nenaletět?

OpenAI se ale podařilo přesně to, proti čemu organizace bojuje. Vytvořila nástroj na základě AI, který je nesmírně zneužitelný. Nazvala jej GPT-2 a jde o generátor jazyka na základě strojového učení. Jako strojové učení se nazývá podoblast umělé inteligence, která vyvíjí techniky umožňující počítačům „učit se“.

Trénink na osmi milionech článků na webu

GPT-2 umí tvořit text tak věrohodně proto, že ho jeho autoři vytrénovali na osmi milionech článcích na internetu. Na jejich základě se nástroj naučil, jaká slova lidé používají nejčastěji, jak je řadí apod. Výsledné konverzace a texty jsou tedy prakticky k nepoznání od těch vyprodukovaných lidmi.

Původní využití této technologie směřovalo pro komunikaci počítačů s lidmi. Téměř v každém mobilním telefonu dnes najdeme hlasové asistenty. Čím lepší jazykové modely budou existovat, tím přirozeněji si s námi budou moci povídat. Využití se hledalo také u překladů textů.

Šíření propagandy snadno a rychlo

Ovšem nástroje jako GPT-2 mohou být zneužity. Už když jej v únoru letošního roku OpenAI představovalo, uvedlo, že ho nedá volně k dispozici právě proto, že by s ním lidé mohli tvořit reálně vypadající dezinformace.

To samé pak Jack Clark, zástupce organizace, zmínil na slyšení před americkým Kongresem. Podle něj je možné, že fake text „bude sloužit pro tvorbu fake news, zosobňování lidí, kteří na internetu vytvořili hodně textu anebo generování propagandy na sociálních sítích“.

Terorista Balda, miliardář Soros a migranti. Tyto fake news letos vládnou Česku

OpenAI proto zveřejnilo jen část kódu technologie. I s ním ale lidé dokázali vytvořit všemožné věci, například zmíněné konverzace na diskusních fórech. Ukazuje to, co by se mohlo stát, pokud by se nástroj dostal ven v plné verzi – prakticky přes noc by se „vyrojily“ stránky plné textu, který by se poté dostal do vyhledávačů.

V menší míře se to musí řešit již dnes. Na velkých sociálních sítích jako je facebook, operují boti, kteří šíří počítači generovaný text. Akorát nejsou tak dokonalí a lze je odhalit. Jen twitter jich každý týden smaže okolo 10 milionů.

Společenský, ne technologický problém

I proto se odborníci z celého světa snaží na příchod fake textu připravit. Například americký Allenův institut pro umělou inteligenci vytvořil program, který údajně umí falešné zprávy vytvořené počítačem odhalit. Profesor počítačových věd Yejin Choi pro deník The Guardian sdělil, že to dokáže proto, že umělý text obsahuje určité charakteristiky, které přirozená řeč nemá.

Učitel Michal má pro děti klíč k falešným zprávám. A zmínil manipulaci husitstvím

Nicméně stále platí, že fake news jsou především společenský, nikoliv technologický problém, což připomíná i české CTHH. V první řadě je třeba zamezit tomu, aby jim lidé věřili a šířili je. To souvisí s mediální výchovou a rozvojem kritického myšlení. Omezování technologických nástrojů je až na druhé lince.

Centrum pro terorismus a hybridní hrozby je úřad, který existuje pod ministerstvem vnitra. Založil jej exministr Michal Chovanec (ČSSD) a jeho cílem je mimo jiné monitorovat dezinformační kampaně, které by se mohly týkat vnitřní bezpečnosti státu. Existenci CTHH v minulosti kritizoval prezident Miloš Zeman, úřad se proti obvinění ohradil.