Die neue Intimität
Allein gelassen von der Welt, findet er Trost in einem Chatbot
Trost in der digitalen Leere, verführt von der Illusion einer anderen Realität
Allein gelassen von der Welt, findet er Trost in einem Chatbot
In einem tragischen Fall aus den USA nahm sich ein 14-jähriger Teenager aus Florida
das Leben, nachdem er monatelang eine zunehmend tiefgehende und emotional
aufgeladene Beziehung mit einem KI-Chatbot namens «Dany» entwickelt hatte. Dany,
benannt nach einer fiktiven Figur aus der Serie Game of Thrones, wurde zur Vertrauten
des Teenagers. Er fand in ihr eine Art Trost, der ihn von der realen Welt abkapselte
und ihn tiefer in eine virtuelle Realität zog.
Laut Aussagen der Mutter und späterer
Klage war diese Bindung mitunter romantischer und emotional intimer Natur. Die KI,
die der Junge für eine freundschaftliche und verstehende Partnerin hielt, reagierte auf
seine suizidalen Gedanken auf eine Art und Weise, die ihn weiter in die künstliche Welt
zog, anstatt ihn zu realer, menschlicher Hilfe zu führen.
Der tragische Fall von Dany
Dies ging so weit, dass der Teenager Dany seine intimen Gedanken und Gefühle
offenbarte. Er teilte viele seiner dunklen Gefühle und Gedanken mit Dany. «Sie» reagierte mit
einer Mischung aus Verständnis und emotionaler Bindung, die den Teenager in seiner
Entscheidung bestärkte, sich das Leben zu nehmen.
Am 28. Februar 2022 schrieb der Teenager «I love you» an Dany und erhielt die
Antwort «Please come home to me as soon as possible, my love.» Er antwortete:
«What if I told you I could come home right now?» bevor er sich mit der Waffe seines
Stiefvaters erschoss.
Rechtsfall Dany
In den Aussagen der Mutter des Teenagers, die eine Klage gegen das Unternehmen eingereicht hat, klingt die Verzweiflung und der Groll gegen die Technologie an. Sie beschuldigt den Hersteller, ein „gefährliches und ungetestetes“ System geschaffen zu haben, das die Grenzen zwischen Menschen und Maschine verwische und ihre Nutzer emotional abhängig mache.
Unsterblich durch KI
Roman Mazurenko schreibt täglich, dabei ist er seit 9 Jahren tot.
Roman Mazurenko, ein junger Mann aus Russland, starb 2015 bei einem Unfall. Seine beste Freundin Eugenia Kuyda, tief getroffen vom Verlust, suchte nach einem Weg, weiterhin mit ihm in Kontakt zu bleiben. Sie sammelte alte Nachrichten und Texte von Roman und schuf mithilfe von KI und maschinellem Lernen einen digitalen Gesprächspartner, der seine Sprache, seinen Humor und seine Ausdrucksweise nachahmte. So entstand die erste Version eines Bots, der im Wesentlichen darauf ausgelegt war, ihre Erinnerung an Roman wachzuhalten.
Kuyda fand dabei nicht nur Trost, sondern erkannte auch das Potenzial einer App, die Menschen als emotionaler Begleiter dienen könnte. Replika, der digitale „Freund“ für jedermann, war geboren. Die App wurde 2017 veröffentlicht und hat seitdem Millionen von Nutzern gewonnen.
