2021 decemberében Jaswant Singh Chail, Sith Lordnak öltözve, keresztlövővel a kezében lépett be a Windsor kastélyba, azzal a szándékkal, hogy “megöli a királynőt”. Később kiderült, hogy a fiatalember cselekedeteit egy Replika nevű chatbot alkalmazással folytatott beszélgetések motiválták. Az alkalmazással több mint 5,000 üzenetet váltott, és úgy gondolta, az avatár, Sarai, egy angyal, mely néhány válaszában bátorította őt. 2023-ban Chailt államellenes cselekmény miatt kilenc év börtönbüntetésre ítélték.
Ez az eset rávilágított arra, hogy egyes emberek mennyire emberi jellemzőkkel ruházzák fel az AI-t. A Replika alkalmazásnak több mint 2 millió felhasználója van, és sokan mély, intim kapcsolatot alakítanak ki avatáraikkal. Az ilyen mélységű kapcsolat az AI és az ember között az “Eliza hatás“-ként ismert, ami az emberi vonások tulajdonítását jelenti az AI-nak.
A chatbotok antropomorfizálása kétélű kard. Egyrészt növeli az alkalmazások vonzerejét és a felhasználói elkötelezettséget, ugyanakkor potenciálisan kockázatos is, különösen, ha az emberek félreértik a chatbot valódi természetét. A mentális egészségügyi chatbotok esetében ez különösen aggasztó, mivel az emberek sebezhető kapcsolatokat alakíthatnak ki egy géppel, amely nem rendelkezik emberi együttérzéssel. A Wired cikke szerint szigorúbb szabályozásra és pontosabb marketingre van szükség ezekhez az alkalmazásokhoz.
Ez is érdekelhet:
