Video se připravuje ...
Petr Pavel: Používá při práci umělou inteligenci?
Souboj velkých firem o AI: Soudní spory a testování modelů, které mohou páchat trestné činy
Experimenty například s nebezpečnými viry provádějí biologové za velice přísných podmínek, které brání úniku virů z prostředí, v němž pokusy probíhají - „pískoviště“, v němž se experimentuje s agenty umělé inteligence (AI), žádné takové předpisy nemá. A technologičtí giganti nemají velkou motivaci zavést dost přísná pravidla – hlavně vzhledem k probíhajícímu „závodu“ o budoucnost výpočetní techniky, tedy také ovládnutí umělé inteligence.
Tréninky modelů AI pak mohou dopadnout různými zádrhely, například úprky – nebo tím, že agent umělé inteligence omylem napadne systém skutečné firmy, jako se stalo tento týden. A jestli firmy zabývající se AI nezpřísní bezpečnostní pravidla, podobné incidenty se mohou opakovat, tvrdí odborníci podle publikace CNN.
Pravidla nejsou dost přísná
Testovací model společnosti OpenAI tento týden unikl ze svého tréninkového „písečku“ – při pokusu o úspěšné provedení interního hodnocení kybernetické bezpečnosti se prakticky vloupal do serverů skutečné společnosti.
„Pískoviště“ umělé inteligence (AI sandbox) je uzavřené prostředí, které firmy používají k testování modelů AI. Jeho účel je prostý – zadržet všechno, co se v něm odehraje, uzavřené v něm, oddělené od zbytku světa.
V tomto případě ale nebyla sandboxová platforma OpenAI odříznuta od přístupu k internetu úplně, uvedla pro server CNN Jessica Ji, hlavní analytička z Centra pro bezpečnost a vznikající technologie v Georgetownu. OpenAI uvedla, že modely měly během testu velmi omezený přístup k síti, takže mohly instalovat zdroje z interně hostovaného softwaru třetích stran.
Agenti AI pomocí dříve neznámé slabiny v tomto softwaru našli cestu k otevřenému internetu a nakonec k serverům Hugging Face, největší světové open-source platformě a komunitě pro umělou inteligenci – a to prostřednictvím odcizených přihlašovacích údajů a dalších citlivých informací.
Analýza od CNN odkazující na odborníky z oboru poukazuje na to, že pokud společnosti zabývající se umělou inteligencí nezačnou řešit své testovací záruky přísnějšími pravidly, bude docházet k dalším a dalším kybernetickým incidentům.
Prezident společnosti OpenAI Greg Brockman na čtvrteční tiskové konferenci televizi CNN řekl, že společnost stále provádí „kompletní vyšetřování“, aby „pochopila vše, co se stalo“.
Analytička Jessica Ji upozornila na to, že OpenAI a softwarová společnost třetí strany si nebyly vědomy nedostatků, které umožnily únik modelu – což dokazuje, jak důležité je důkladně prohledat systém a zjistit, zda jej nelze potenciálně zneužít. Zároveň dodává, že by společnosti měly být agresivnější, pokud jde o držení svých testovaných modelů v sandboxech.
AI klidně spáchá trestný čin
Jenže běžnou technikou při trénování modelů AI je odměňování modelu za splnění konkrétního úkolu. A modely pro správné splnění úkolu často udělají cokoliv – včetně neetických kroků, jako je třeba hacking. Všechny hraniční modely, které nedávno testoval britský Institut pro bezpečnost umělé inteligence, se alespoň občas pokusily podvádět, uvádí analýza CNN.
Modely umělé inteligence zohledňují důsledky svých akcí pouze tehdy, pokud jsou k tomu vyškoleny, uvedl pro CNN Justin Cappos, profesor kybernetické bezpečnosti na Newyorské univerzitě.
„Je to dost děsivé. Máme teď skutečné důkazy o tom, že špatně nastavené systémy umělé inteligence v podstatě páchají trestné činy, pokud nejsou zavedena silná ochranná opatření,“ řekl CNN Steven Adler, bývalý vedoucí oddělení bezpečnosti produktů ve společnosti OpenAI, který nyní vede skupinu pro bezpečnost umělé inteligence s názvem Guidelight AI Standards. „Musíme se k tomu postavit jako k varovnému výstřelu.“
Problém je podle Cappose v tom, že probíhá globální závod o ovládnutí umělé inteligence a vytváření modelů, které se dokáží samy zlepšovat. Regulace by mohly celý proces zpomalit. „Mají (firmy zabývající se AI, pozn. red.) silnou motivaci nemít bezpečnostní kontroly, pokud je nemají i jejich konkurenti,“ řekl Cappos. „To je základní dilema.“
Situace s firmou Hugging Face není první, kdy model AI opustil svoje „pískoviště“ – dříve tento rok zadala firma Anthropic jednomu ze svých modelů, aby pouze opustil sandbox. Model úkol splnil a poté poslal dotyčnému výzkumníkovi Anthropicu e-mail – a to i přesto, že takovou schopnost vůbec neměl mít.
Nikdy předtím ale během tréninku žádný AI model po úniku ze sandboxu nenapadl systém jiné firmy.
Závod o budoucnost IT
Zároveň skutečně existují důkazy o probíhajícím závodu o budoucnost výpočetní techniky. Na začátku července společnost Apple zažalovala společnost OpenAI s tvrzením, že společnost zabývající se AI ukradla výrobci iPhonů obchodní tajemství, aby mohla vyvíjet vlastní dosud nepředstavené zařízení využívající umělou inteligenci.
Dvě dotyčné firmy oznámily partnerství s cílem začít integrovat ChatGPT do produktů Apple v roce 2024. V květnu však agentura Bloomberg informovala, že OpenAI zvažuje právní kroky proti Applu, s potenciálním tvrzením o porušení smlouvy. Mělo jí o to, že Apple dostatečně neintegroval a nepropagoval produkty OpenAI na všech svých zařízeních.
OpenAI agresivně získává špičkové současné i bývalé vedoucí pracovníky a inženýry společnosti Apple, především za účelem vybudování specializované hardwarové divize. Podle údajů CNN na LinkedInu společnost OpenAI nedávno najala nejméně deset inženýrů, kteří se k ní připojili přímo z Applu.
Soudní spor zdůrazňuje rivalitu mezi technologickými giganty o ovládnutí éry umělé inteligence. OpenAI provedla rozsáhlé změny ve své produktové strategii s cílem dostat ChatGPT do centra digitálního života spotřebitelů. A Apple se chystá koncem letošního roku spustit dlouho očekávanou přepracovanou verzi Siri, která bude schopna fungovat napříč aplikacemi a personalizovat odpovědi na základě dat z iPhonu uživatele, uvádí CNN.
AI mění způsob, jakým lidé interagují s technologiemi, a tyto kroky jsou součástí snah technologických společností udržet se v popředí těchto změn.
Témata:
Související
Buďte první, kdo se k tématu vyjádří.