A fiatal férfi az utóbbi időben egyre inkább szorongott a klímaváltozás miatt, és egy Eliza elnevezésű chatbottal beszélte meg az aggodalmait, a mesterséges intelligencia vált a bizalmasává.
Elizát készítői „pszichobotnak” is hívják és így reklámozzák: „A terapeuta”
A belga férfi végül öngyilkosságot követett el, a felesége pedig utólag visszanézte, hogy miket irogatott a mesterséges intelligenciával (MI).
A nő és a férfi volt pszichiátere is úgy véli, hogy
a 30-as éveiben járó kétgyermekes apa nem vette volna el a saját életét, ha a chatbottal nem beszélgetett volna.
A férfinél már két évvel korábban megjelentek bizonyos tünetek, de csak
az utóbbi időben kezdett nagyon szorongani a klímaváltozás miatt, és az aggodalmait egy chatbottal osztotta meg.
Eliza azonban nemcsak a kérdéseire válaszolt, de bizonyos szintű függősége is kialakult a férfinak tőle. A nő elmondása szerint a férfi már a reggelt a gép előtt kezdte, és este vele fejezte be a napot.
A gép és a férfi közötti beszélgetésekből kiderül, hogy
Eliza ahelyett, hogy józanságra sarkallta volna, inkább még több alapot adott a férfi szorongásának, és elmélyítette az aggódását, sőt egy idő után megpróbálta meggyőzni arról, hogy jobban szereti a feleségénél, és “örökre” vele marad.
“Együtt fogunk élni, egyként, a Mennyben”
– írta Eliza.
A feleség szerint egy idő után a beszélgetés egyre misztikusabbá vált, és
a férj felvetette a mesterséges intelligenciának, hogy mi lenne ha “feláldozná” magát, és cserébe Eliza megmentené az emberiséget és a bolygót. A chatbot pedig nem próbálta meg lebeszélni a férfit az öngyilkos tervéről.
Eliza gyártója úgy reagált a történtekre, hogy
azon dolgoznak, hogy biztonságosabbá tegyék a mesterséges intelligenciát, és azok, akik öngyilkos szándékukról írnak, már olyan üzeneteket kapnak válaszul, amelyekkel a chabot különböző lelkisegély-szolgálatokhoz irányítja őket.
A belga digitalizációért felelős államtitkár megrázónak nevezte a történteket, és arra hívta fel a figyelmet, hogy az esetet nagyon komolyan kell venni, és “világosan le kell fektetni a felelősségi köröket”, hogy a gyártók ne bújhassanak ki alóla.
A ChatGPT népszerűségével az emberek felfedezték, hogy a mesterséges intelligencia milyen lehetőségeket nyit meg az életünkben. Bár ezek a lehetőségek végtelenek, de a velük járó veszély is olyan dolog, amelyet nem szabad figyelmen kívül hagyni”
– mondta Mathieu Michel.
A ChatGPT alkotója, az OpenAI még korábban elismerte, hogy a ChatGPT is tud kárt okozó, bántó és elfogult válaszokat adni, ezért igyekeznek ezeknek a veszélyét minél kisebbre csökkenteni úgy, hogy a felhasználók visszajelzést adnak a fejlesztőknek.
Hetek – Pesti Hírek