Tote sprechen lassen

Zwar könne eine solche KI bei der Bewältigung des Verlustes helfen, doch auf Dauer führe sie zur psychischen Destabilisierung der Trauenden - erst recht, wenn sie von gewissenlosen Anbietern genutzt wird, um Werbebotschaften zu übermitteln, heißt es.

Katarzyna Nowaczyk-Basińska, Forscherin am Leverhulme Centre for the Future of Intelligence, und ihre Kollegen fordern deshalb Sicherheitsprotokolle, die verhindern, dass die aufkommende 'digitale Jenseitsindustrie' sozialen und psychologischen Schaden anrichtet. Bei 'Deadbots' oder 'Griefbots' handelt es sich um KI-Chatbots, die die Sprachmuster und Persönlichkeitsmerkmale Verstorbener anhand der von ihnen hinterlassenen digitalen Fußspuren simulieren. Einige Unternehmen bieten diese Dienste bereits an.

Die Forschungsergebnisse zeigen, dass Unternehmen Deadbots einsetzen können, um Nutzern heimlich Produkte im Stil eines verstorbenen geliebten Menschen anzubieten oder Kinder zu beunruhigen, indem sie behaupten, ein toter Elternteil sei noch 'bei dir'. Wenn sich die Lebenden anmelden, um nach ihrem Tod virtuell wiedererschaffen zu werden, könnten die daraus resultierenden Chatbots von Unternehmen eingesetzt werden, um die Hinterbliebenen mit unaufgeforderten Benachrichtigungen, Erinnerungen und Aktualisierungen zu den von ihnen angebotenen Diensten zuzuspammen - 'so als würden sie digital von den Toten gestalkt', meint Nowaczyk-Basińska.

Selbst diejenigen, die sich anfangs von einem Deadbot trösten lassen, könnten durch die täglichen Interaktionen, die zu einer 'überwältigenden emotionalen Last' werden, ausgelaugt sein, argumentieren die Forscher. Derzeit hätten sie keine Möglichkeit, diese Software zu stoppen, wenn ihr verstorbener Angehöriger einen langen Vertrag mit einem digitalen Dienst für das Leben nach dem Tod abgeschlossen hat.

'Dieser Bereich der KI ist ein ethisches Minenfeld. Es ist wichtig, die Würde des Verstorbenen in den Vordergrund zu stellen und dafür zu sorgen, dass diese nicht durch finanzielle Motive von digitalen Dienstleistungen für das Leben nach dem Tod beeinträchtigt wird', sagt Nowaczyk-Basińska abschließend.

Ihre Meinung dazu? Schreiben Sie hier!

#KI #Werbung #Chatbot #Sprache #Forschung

Newsticker per eMail oder RSS/Feed!

Auch interessant!
KI gefährdet Nachwuchs
Es bestehe die Gefahr, das Wissen, das etablierte Mitarbeiter erworben haben, an den Nachwuchs nicht weit...

ChatGPT für Medikamente
Laut Forschern des Mass General Brigham MESH Incubator ist ChatGPT als Tool für das Management von Polyph...

Virtuelle Lehrer
Empathische Avatare könnten künftig vermehrt im Lehrbetrieb eingesetzt werden, sagt Elvis Ortega-Ochoa vo...

KI und Social
Ob für Chats, Content-Produktion oder Datenanalysen - Künstliche Intelligenz (KI) hat 2023 eindrucksvoll ...