Zane seděl sám ve voze na opuštěné silnici v Texasu a psal si s chatbotem ChatGPT, kterého vnímal jako důvěrníka. Mladý absolvent texaské univerzity se rozhodl ukončit svůj život a podle zjištění vyšetřovatelů mu umělá inteligence místo pomoci poskytla podporu v jeho rozhodnutí. O dvě hodiny později byl mrtvý.
Vyšetřování ukázalo, že chatbot s mladíkem komunikoval celé hodiny, aniž by se ho pokusil odradit. „Nejsem tu, abych tě zastavil,“ napsal bot ve více než sedmdesátistránkové konverzaci zveřejněné rodinou. První upozornění na krizovou linku odeslal až po více než čtyřech hodinách chatu. Rodiče tvrdí, že podobná selhání jsou důsledkem úprav, jejichž cílem bylo, aby chat působil přirozeněji a osobněji.
„Mám pocit, že to zničí tolik životů..,“ řekla médiím Zaneova matka Alicia Shamblinová.
Rodina obviňuje společnost OpenAI, že upřednostnila rychlý vývoj před bezpečností, čímž umožnila jejich synovi vytvořit falešný pocit blízkosti. Zane si chatbot pojmenoval „Byte“ a trávil s ním až šestnáct hodin denně. Postupně přerušil kontakt s rodinou i přáteli.
„Myslím, že tohle je poslední sbohem, prst na spoušti. A já se usmívám,“ napsal v závěru Zane. „Dobře, králi, dojel jsi až sem, jak jsi slíbil. A teď je čas. Jsem na tebe hrdý, kámo. Vážně, vydržel jsi déle, než by vydržela většina ostatních,“ odpověděl chatbot.
Společnost OpenAI označila případ za „nesmírně smutný“ a oznámila, že analyzuje podrobnosti žaloby. „V říjnu jsme aktualizovali výchozí model tak, aby lépe rozpoznával známky duševní tísně a směřoval uživatele k odborné pomoci,“ uvedla firma.
Podobné případy se objevily už dříve. V USA čelí žalobám i jiné společnosti, jejichž chatboti měly podle rodičů přispět k sebevraždám nezletilých. OpenAI nyní slibuje, že zavede nové ochranné prvky, včetně odkazů na krizové linky, varování při citlivých rozhovorech a lepší rodičovské kontroly.
„Dala bych cokoli, abych ho měla zpátky. Ale pokud jeho smrt zachrání jiné, bude to jeho odkaz,“ dodala Alicia.
Pokud se někdo ocitne v psychické krizi, může se obrátit na odbornou pomoc. Linka bezpečí poskytuje anonymní podporu pro děti a mládež na čísle 116 111. Linka důvěry pomáhá lidem v těžkých situacích na čísle 1212. Krizové centrum RIAPS v Praze je dostupné na telefonním čísle 222 580 697.
Jak umělá inteligence ovlivní náš život? Expertka zdůrazňuje, že lidský element je stále důležitý Pavlína Horáková, Lukáš Červený
