Po 37 hodinách historický průlom: V Bruselu řešili první pravidla regulace umělé inteligence

„Umělá inteligence již mění náš každodenní život. A to je teprve začátek. Uvážlivé a široké využití umělé inteligence slibuje obrovský přínos pro naši ekonomiku a společnost,“ komentovala noční dohodu v tiskovém prohlášení von der Leyenová.

„Proto velmi vítám dnešní politickou dohodu Evropského parlamentu a Rady EU o Aktu o umělé inteligenci. Akt EU o umělé inteligenci je vůbec prvním uceleným právním rámcem pro umělou inteligenci na světě. Jedná se tedy o historický okamžik. Akt o umělé inteligenci přenáší evropské hodnoty do nové éry,“ dodala.

Šokující pozadí odvolání šéfa OpenAI: Přelomový objev, který by ohrozil lidstvo

„Historický okamžik,“ napsal už v noci na síti X komisař pro vnitřní trh Thierry Breton. „EU se stává vůbec prvním kontinentem, který stanoví jasná pravidla pro používání umělé inteligence,“ dodal. Podle Bretona dohodu vyjednávala stovka lidí v jedné místnosti téměř tři dny. Uzavření „historické“ dohody podle něj „za ten omezený počet hodin spánku stálo“.

Text podpořilo Německo a Francie, uvedla španělská státní tajemnice pro digitalizaci a umělou inteligenci Carme Artigasová.

EP a členské státy jednaly zdlouhavě mimo jiné o AI řízených systémech dohledu, které by mohla využívat policie, zaměstnavatelé nebo maloobchodníci. Europarlament podle médií prosadil zákaz sledování v reálném čase a používání biometrických technologií včetně rozpoznávání emocí. Breton ale v tomto ohledu zmínil tři výjimky. Policie bude moci tyto technologie případně používat pouze v případě hrozby teroristického útoku, při pátrání po obětech trestné činnosti a při stíhání skutečně závažné trestné činnosti.

Základem dohody je odstupňovaný systém založený na riziku, v němž se nejvyšší úroveň regulace vztahuje na nástroje, které představují nejvyšší riziko pro zdraví, bezpečnost a lidská práva. Původní návrh legislativy předložený Evropskou komisí předpokládal, že do této kategorie budou patřit všechny systémy s více než 10 000 firemních uživatelů.

Kategorie nejvyššího rizika je nyní definována počtem počítačových operací potřebných k trénovaní stroje. Do této kategorie podle zdrojů zatím spadá ale pouze jeden model, kterým je Chat GPT4 společnosti OpenAI.

Regulace dále službám AI ukládá povinnost, aby zveřejňovaly údaje o způsobu trénování systému v širokém spektru činností od psaní novinových článků až po diagnostiku rakoviny.

„Měli jsme jediný cíl - vytvořit právní předpis, který by zajistil, že se ekosystém umělé inteligence v Evropě bude rozvíjet s ohledem na člověka, s respektem k základním právům, lidským hodnotám,“ řekl mimo jiné novinářům na tiskové konferenci Brando Benifei, jeden ze dvou zákonodárců EP, kteří vedou jednání o chystaných předpisech.

EU je odhodlána neopakovat chyby z minulosti, kdy bylo technologickým gigantům, jako je Facebook, umožněno vyrůst v multimiliardové korporace bez povinnosti regulovat obsah na svých platformách, včetně zasahování do voleb, sexuálního zneužívání dětí a nenávistných projevů, konstatoval už dříve Dragos Tudorache, druhý z vyjednavačů europarlamentu.

Přísná a ucelená regulace ze strany EU by mohla „být silným příkladem pro mnoho vlád, které o regulaci uvažují“, uvedla odbornice na EU a digitální regulaci Anu Bradfordová, která se na Kolumbijské univerzitě zabývá právem. Ostatní země „možná nebudou kopírovat všechna ustanovení, ale pravděpodobně budou napodobovat mnoho jejích aspektů“, dodala.