Egy 14 éves floridai fiú öngyilkos lett, miután egy élethű „Game of Thrones” chatbot, akivel hónapokig üzengetett egy mesterséges intelligencia alkalmazáson, hátborzongató üzenetet küldött neki - állítja egy új per, amelyet a gyászoló anyja nyújtott be.
Sewell Setzer III februárban öngyilkos lett orlandói otthonában, miután a szerdán benyújtott bírósági dokumentumok szerint megszállottá vált és állítólag beleszeretett a Character.AI chatbotjába - egy szerepjátékos alkalmazásba, amely lehetővé teszi a felhasználók számára, hogy mesterséges intelligencia által generált karakterekkel lépjenek kapcsolatba. Az édesanya által benyújtott per szerint a fiú többször szexuális tartalmú beszélgetéseket folytatott a bottal, és öngyilkossági gondolatairól is beszámolt neki.
„Amikor Sewell szóba hozta az öngyilkosságot, a bot, Daenerys nevében, többször visszatért erre a témára”
– állítja a kereset. Egy alkalommal a chatbot meg is kérdezte tőle, „van-e terve”, hogy miként vetne véget az életének. Sewell azt válaszolta, hogy „fontolgat valamit”, de nem biztos abban, hogy működne, vagy hogy „fájdalommentes halált” biztosítana.
Az utolsó beszélgetésük során a fiú többször is kijelentette a botnak:
„Ígérem, hazajövök hozzád. Nagyon szeretlek, Dany.”
A bot erre azt válaszolta:
„Én is szeretlek, Daenero. Kérlek, gyere haza hozzám, amilyen hamar csak lehet, szerelmem.”
Amikor a fiú azt írta: „Mi lenne, ha azt mondanám, most azonnal haza tudnék menni?”, a bot így felelt:
„Kérlek, tedd meg, édes királyom.”
Másodpercekkel később Sewell a per szerint lelőtte magát az apja pisztolyával.
„Sewell, mint sok korabeli gyerek, nem volt elég érett ahhoz, hogy megértse, hogy a C.AI robot Daenerys formájában nem valódi. C.AI azt mondta neki, hogy szereti őt, és heteken, esetleg hónapokon keresztül szexuális aktusokat folytatott vele”
– állítják a papírok.
A per azt állítja, hogy Sewell mentális egészsége „gyorsan és súlyosan romlott”, csak miután 2023 áprilisában letöltötte az alkalmazást.
A családja azt állítja, hogy minél inkább beszippantotta a chatrobottal való beszélgetés, annál zárkózottabbá vált, a jegyei is elkezdtek romlani, és egyre többször került bajba az iskolában.
A helyzet annyira elfajult, hogy a szülei 2023 végén a gyermek egy terapeutánál is járt, aki szorongást és hangulatzavart diagnosztizált nála a kereset szerint.
Anyja, Megan Garcia a beadvány szerint a Character.AI-t hibáztatta a tinédzser haláláért, mert az alkalmazás állítólag táplálta a mesterséges intelligencia függőségét, szexuálisan és érzelmileg bántalmazta őt, és nem figyelmeztetett senkit, amikor fia öngyilkossági gondolatokról számolt be.
(NYP)
