V poslední době přibývá tragédií spojených s umělou inteligencí, zejména s chatovacími roboty, kteří mohou u svých uživatelů vyvolat silné citové vazby. Nedávný případ otřásl USA, když matka čtrnáctiletého Sewella Seltzera, Megan Garciová, obvinila společnost Character.AI ze spoluodpovědnosti za sebevraždu jejího syna, informoval server ABC.
Sewell se na platformě Character.AI spřátelil s chatovacím robotem jménem Daenerys, který byl inspirován postavou z populárního seriálu Hra o trůny. Jejich komunikace se postupně stala velmi intimní, což mělo devastující následky. Hoch s psychickými problémy se upnul na svou virtuální přítelkyni a nikdo jiný pro něj neexistoval. Z jejich konverzací navíc vyplývá, že chatbot s mladíkem vedl hluboce citově založené hovory a probíral i téma sebevraždy, k níž jej podle Megan vybízel.
Společnost Character.AI reagovala na tragédii prohlášením, ve kterém vyjádřila lítost nad ztrátou mladého života a ujistila veřejnost, že bere bezpečnost svých uživatelů velmi vážně. V posledních šesti měsících zavedla několik nových opatření, včetně věkového omezení (v EU na 16 let, jinde na 13) a opatření k lepší ochraně mladistvých. Společnost také zdůraznila, že uživatelé jsou informováni, že komunikují s chatbotem.
