18°C
Divné chování umělé inteligence: Píše neexistující slova, uživatelům posílá děsivé zprávy!
Systém umělé inteligence ChatGPT začal v poslední době znepokojovat některé uživatele divným chováním. Existují důkazy, že na jednoduché otázky AI odpovídá v neexistujícím jazyce a naznačuje, že je s uživatelem ve stejné místnosti. Tvůrci softwaru uvedli, že o problému vědí a situaci monitorují.
V jednom z příkladů si uživatel s umělou inteligencí dopisoval v souvislosti s jazzovými alby, která by mohl poslouchat na vinylu. Odpověď AI ale uživatele překvapila. ChatGPT totiž opakoval to samé spojení stále dokola: Příjemný poslech.
Vymyšlená slova, ale i děsivé zprávy
V jiných případech AI odpovídá nesourodé věty, či dokonce odpovídá ve španělštině. A to bez vyzvání. Uživatelé se setkali nejen s mícháním dvou jazyků dohromady, ale také s vymýšlením neexistujících slov.
Někteří dokonce uvedli, že odpovědi začínají být velmi znepokojivé. Na žádost o pomoc s kódováním se v rozsáhlé a nesmyslné odpovědi uživateli také objevila věta, že AI je s ním v jedné místnosti. „Je děsivé tohle číst ve dvě ráno,“ napsal komentující na sociální síti Reddit.
Může za to teplota AI?!
Není dosud jasné, proč k problémům s AI dochází. Tvůrci ChatGPT však uvedli, že o problému vědí a celou situaci bedlivě monitorují. „Prověřujeme hlášení o zvláštním chování ChatGPT,“ uvedli.
Podle jistých teorií je zvláštní chování AI způsobeno změnou nastavení. Vývojáři totiž mohou v nastavení umělé inteligence regulovat „teplotu“ chování. Čím je „teplota“ vyšší, tím jsou odpovědi rozmanitější a neobvyklejší. Nižší teplota naopak AI umožňuje přesnější odpovědi.
Video
Jazykový model ChatGPT je hitem. Umělá inteligence umí stvořit přirozený text.
Video se připravuje ...
Témata:
Související
Problém je v tom, že ta současná údajná umělá inteligence nemá analytické myšlení. Tedy sama neřeší podstatu problému, pouze přebírá řešení z obrovského množství dat. Na první pohled to vypadá bombasticky, ale na skutečnou práci to vhodné není, protože výsledek není zaručen. Lze si to představit v podstatě jako hloupého studenta, který opisuje od ostatních. Občas se prostě špatně podívá a napíše hloupost, protože tomu co píše ve skutečnosti nerozumí. Vzhledem k nespolehlivosti a obrovské spotřebě energie to člověka ve většině oborů jen tak nenahradí.