DOMRADIO.DE: Tote leben als digitale Avatare weiter. Das klingt ein bisschen nach Science-Fiction, ist aber schon Realität. Wie sehen Sie das?
Dr. Anna Puzio (Theologin und Forscherin): Ja, es ist tatsächlich Realität. Es ist ein eher schleichender Prozess. Wir kennen es schon lange, dass wir Material von Verstorbenen aufbewahren. Diese Ein-Weg-Kommunikation besteht in gewisser Weise. Wir begegnen dem zum Beispiel auch im Film "SMS für dich". Wir haben zudem gespeicherte Sprachnachrichten oder einen Anrufbeantworter, der vielleicht noch weiter läuft.
Das war zunächst ein eher schleichender Prozess, aber jetzt kann man den Boom in diesen sogenannten "Death-Technologies" sehen. Das sind Technologien, die rund um Tod und Trauer angesiedelt sind. Sie können ganz unterschiedliche Formen haben. Das reicht von rein organisatorischen Aufgaben zur Trauerbewältigung bis hin zu Formen von Avataren, die den Verstorbenen sehr nahe kommen, von deren "Material" gefüttert sind und suggerieren, diese Personen weiterhin zu sein.
DOMRADIO.DE: Wie funktioniert das digitale Leben beispielsweise als Avatar nach dem Tod praktisch? Muss man zu Lebzeiten selbst aktiv werden?
Puzio: Es gibt ganz verschiedene Start-Ups und Initiativen, bei denen "Material", also verschiedene Sprachaufzeichnungen und Bildmaterial hochgeladen wird. Auf dieser Basis werden Avatare geschaffen, die Fragen, die vorher einprogrammiert worden sind, dann beantworten können.
Das heißt, man fragt den Avatar im Vorfeld: "Wie stehen Sie jetzt zum Thema Tod?" Dann gibt der Avatar auch nach dem Tod noch immer diese Antwort wider.
DOMRADIO.DE: Die Künstliche Intelligenz (KI) gibt also Antworten, die der Verstorbene zu Lebzeiten gegeben hätte. Ist das "Death-Technology"?
Puzio: Man kann es zum Beispiel bei "Storyfile" anschauen. Das wirkt schon sehr ähnlich. Wir erkennen Künstliche Intelligenz immer noch ganz gut, aber es ist schon sehr nah dran. Vor allem, wenn man die Person nicht so gut kennt. Dann ist die Verwechslungsgefahr schon groß. Es ist es ja auch ein unheimliches Gefühl, wenn man zum Beispiel einen Anrufbeantworter hört, auf den ein Verstorbener noch vor seinem Tod gesprochen hat.
Es gibt aber auch viele Vorteile. Zum Beispiel kann man das nutzen, um da einen Abschied zu ermöglichen, wo kein Abschied vor dem Tod möglich war. Oder man kann es auch zu kulturellen und Bildungszwecken nutzen, zum Beispiel als Avatare von berühmten Denkerinnen oder Denkern, von berühmten Persönlichkeiten, vielleicht auch von Holocaustüberlebenden, die ihre Geschichten, ihre Erfahrungen, ihre Denkkonzepte noch lebendiger in die Gegenwart hinein vermitteln können, indem es diese Aufzeichnungen gibt.
DOMRADIO.DE: Wenn man sich mit einem Verstorbenen aber über Dinge unterhalten kann und der dann auf die Fragen richtig antwortet, ist schon ein bisschen gruselig, oder?
Puzio: Es gibt da verschiedene Möglichkeiten. Vielleicht lebt man ganz weit entfernt von den Großeltern. Diese spielen ihre letzte Botschaft noch lange vor ihrem Tod ein. Wenn man nicht die Möglichkeit bekommen hat, sich zu verabschieden, kann man zum Beispiel diese kurze Nachricht einmal abspielen lassen. Das kann vielleicht nur diese eine Nachricht sein und dann war es das.
Es ist aber auch möglich, dass diese Kommunikation immer weiter läuft. Das könnte in einem Trauerprozess sinnvoll sein. Es gibt verschiedene Chatbots, die schon eingesetzt wurden, um einen Trauerprozess zu begleiten. Es gab eine Applikation, die ähnlich wie ChatGPT verwendet wurde, um noch Kontakt zu einer verstorbenen Person aufrecht zu halten.
Kritisch sehe ich aber eine Sache, die Amazon letztes Jahr wohl vorgestellt hat. Bei ihrer Präsentation haben sie eine Art Werbefilm eingeblendet, bei der die Großmutter dem Enkelkind im Sinne des Sprachassistenten Alexa noch Geschichten vorlas, als sie bereits verstorben war. Das finde ich hochproblematisch, weil es sehr wahrscheinlich ist, dass das Kind nicht versteht, dass die Großmutter tot ist. Außerdem vertritt die Großmutter Meinungen, die aus ihrer Zeit stammen, die sie heute nicht vertreten würde.
Es ist schwierig, Gedanken und Meinungen aus einer anderen Zeit und aus einem anderen Kontext ins Heute zu übertragen und zu suggerieren, als wäre die Person noch lebendig. Natürlich spielen da auch noch Persönlichkeitsrechte, Datenschutz und Vieles mehr eine wichtige Rolle.
DOMRADIO.DE: Wird dadurch nicht auch das Loslassen schwieriger? Wenn man die Möglichkeit hat, den Verstorbenen zum Beispiel über die Alexa zu hören, kann man dann loslassen?
Puzio: Ich denke, das ist sehr individuell. Wir brauchen da auf jeden Fall noch weitere psychologische Studien. Das ist nichts, wo die Philosophie oder die Theologie alleine eine gute ethische Entscheidung treffen könnte. Es ist aber so, dass diese Virtual Bots, die Chatbots oder auch die Robotik und andere Technologien in verschiedenen Bereichen der Therapie sehr sinnvoll sind und auch schon gute Effekte erzielt haben.
Auch von den "Death-Technologies" abgesehen gibt es zum Beispiel viele Studien im Bereich des Autismus, wo man sehen kann, dass es den Menschen viel leichter fällt, Kommunikation mit solchen Technologien zu haben und sich zu öffnen. Vielleicht auch, weil die Schranken, die Hindernisse, die in der menschlichen Kommunikation da sind, nicht vorhanden sind.
Auch im Bereich der "Death-Technologies" kann man sehen, dass man bei Chatbots schneller bereit ist, sich zu öffnen und Sachen zu offenbaren. Es ist bis zu einem bestimmten Grad anonym, und es sind personalisierte Angebote möglich.
Man schämt sich nicht vor der Technologie, anders als etwa mit einer Pfarrerin oder mit einem Priester zu sprechen, die oder der vielleicht gar nicht die gleichen Erfahrungen gesammelt hat. Der "Treshold" (die Schwelle, Anm. d. Red.) ist einfach viel niedriger, einen Chatbot zu öffnen und mit diesem Bot ein Gespräch zu führen.
DOMRADIO.DE: Sie schreiben in einem Aufsatz, den Sie im Sommer veröffentlicht haben, dass auch Cybermobbing dadurch Tür und Tor geöffnet werden könnten. Inwiefern?
Puzio: Man kann zum Beispiel eine Person für tot erklären, die gar nicht tot ist. Das ist eine Möglichkeit. Es gibt verschiedene Probleme des Persönlichkeitsrechts, der Manipulation, die da auftauchen können, wie zum Beispiel, dass man die Aussagen nicht richtig wiedergibt oder die Aussagen der bereits Toten entstellt.
DOMRADIO.DE: Es gibt auch diese Einbahnstraßenkommunikation, wie in Facebook zum Beispiel. Da gibt es auch schon Internetseiten von Verstorbenen, bei denen man im Vorfeld tätig werden muss. Sie haben in Ihrem Artikel auch die QR-Codes auf Grabsteinen erwähnt. Das ist auch so eine Art Einbahnstraße. Wie stehen Sie dazu?
Puzio: Das ist eine schöne Art und Weise, für eine lebendigere Erinnerungskultur zu sorgen, wie wir sie auch noch in anderen Kulturkreisen und Religionen stärker vertreten haben. Da gibt es verschiedene Rituale und Formen der Trauer. Gerade solche QR-Codes oder Technologien an solchen Friedhöfen können dafür sorgen, dass man neue Zugänge zu dieser Erinnerungs- oder Trauerkultur bekommt und einen lebendigeren, personalisierten Zugang hat.
Statt des kalten Grabsteins hat man ein Portal, wo Information hochgeladen werden können, wo man interagieren kann.
Es gibt auch die verschiedenen virtuellen Trauerräume. Ich sehe es da als eine wichtige Aufgabe der Theologinnen und Theologen sowie Kirchenpersonen an, dass sie ihre Arbeit auch in diese Trauerräume verlagern. Denn wenn Trauerbewältigung im digitalen Raum stattfindet, bedeutet das umgekehrt auch, dass kirchliche Trauerarbeit in diesem digitalen Raum auch stattfinden muss, also dass sich dieser Ort ins Virtuelle ausweitet. Von daher denke ich, dass gerade solche Applikationen sehr gewinnbringend sein können.
DOMRADIO.DE: Aber Sie befürworten schon noch das persönliche Gespräch zwischen dem Trauerbegleiter und den Angehörigen beziehungsweise in schweren Fällen auch den Psychologen?
Puzio: Es geht gar nicht darum, Priester oder Psychotherapeuten oder -therapeutinnen zu ersetzen, sondern ergänzend zu sein. Der Diskurs wird bereits in der Psychotherapie geführt, aber noch nicht in der Theologie.
In der Psychotherapie ist der Diskurs um Emotionale Künstliche Intelligenz oder um die Verwendung von künstlicher Intelligenz in der Therapie sehr umstritten. Man sagt, bestimmte Tätigkeiten kann eine KI ganz gut machen, andere weniger. Da wird es nicht darum gehen, zwischenmenschliche Beziehungen zu ersetzen.
Es ist natürlich ein individuelles Geschehen. Das wird nicht bei jeder Person gut funktionieren. Das kommt auf die Person selber und ihre Bedürfnisse an. Da muss man schauen, wie das Bedürfnis ist.
DOMRADIO.DE: So eine Technologie öffnet aber auch Tür und Tor fürs Geldverdienen, wenn man an die großen Konzerne denkt.
Puzio: Genau. Wie immer geht es hier auch um die verschiedenen Daten, die gesammelt werden. Mit Blick auf die Vulnerabilität finde ich es sehr problematisch, wenn ein solches Unternehmen oder ein solches Projekt nicht weitergeführt werden kann. Dann muss sichergestellt werden, dass die Avatare oder diese Kommunikation mit den Personen, beziehungsweise das Projekt noch weiterlaufen kann. Denn das ist hochproblematisch.
Wir haben das bei den Aibo-Roboterhunden gesehen. Die Firma hat Insolvenz angemeldet. So konnten die Roboterhunde eben nicht weiterentwickelt werden und sind nach und nach alle kaputt gegangen. Da hat es in Japan große Beerdigungen gegeben. Man hat gesehen, wie die Menschen eine Beziehung zu diesen Roboterhunden aufgebaut haben.
Wir können uns das noch besser vorstellen, wenn man Kontakt zu einem Verstorbenen hat und die Firma einmal nicht mehr da ist, die das gewährleistet. Dann ist plötzlich alles "Material" weg. Das wäre undenkbar.
Da ist auch finanzieller Druck möglich, indem die Firma für Updates oder Upgrades Geld verlangt. Das darf natürlich nicht passieren. Davor muss man die Userinnen und User schützen.
DOMRADIO.DE: Was würden Sie Interessierten mit auf den Weg geben? Sollte man sich damit zeitnah beschäftigen oder vielleicht erst mal abwarten?
Puzio: Viele Menschen nutzen Social Media. Wir hatten über Facebook gesprochen. Da gibt es die Möglichkeit, sich um diesen digitalen Nachlass zu kümmern. Das ist durchaus sinnvoll. Was mit den Profilen nach dem Tod passiert, ist etwas, was man auf jeden Fall jetzt schon tun kann. Wenn man Interesse und Lust darauf hat, dann sind diese Trauerräume zur Trauerbewältigung eine gute Möglichkeit, um Abschied zu nehmen.
Ich würde nicht sagen, dass man die nicht nutzen sollte. Je nach dem eigenen Bedürfnis kann man die gerne ausprobieren.
Vor dem Hintergrund der gesellschaftlichen Situation, die wir aktuell mit den verschiedenen Krisen, Ängsten, Unsicherheiten haben, finde ich es sehr wichtig, dass wir gegenüber Technologien eine offene Haltung einnehmen.
Das heißt nicht, dass wir nicht kritisch bleiben. Vielmehr müssen wir auf die Ethik schauen, auf die Herausforderungen, die damit einhergehen. Aber wir dürfen auch nicht in eine radikale Technikablehnung oder Technikangst stürzen.
Dementsprechend würde ich zu einem verantwortungsvollen Experimentieren ermuntern und dazu, sich mit der Technik vertraut zu werden. Dann können wir sehen, wo ethische Probleme auftauchen, wie wir die angehen können und wie wir Technik gut nutzen können beziehungsweise wofür wir Technik nicht nutzen möchten. Das muss erst mal ausgelotet werden.
Das Interview führte Oliver Kelch.
Den Aufsatz von Dr. Anna Puzio finden Sie hier.
Experten mahnen Fokus auf Risiken von Künstlicher Intelligenz an
Eine Reihe führender Experten für Künstliche Intelligenz sieht in der Technologie eine potenzielle Gefahr für die Menschheit und hat dazu aufgerufen, die Risiken ernst zu nehmen. Zu den Unterzeichnern der kurzen Stellungnahme gehört auch der Chef des ChatGPT-Erfinders OpenAI, Sam Altman. Der Chatbot ChatGPT, der Sätze auf dem Niveau eines Menschen formulieren kann, löste in den vergangenen Monaten einen neuen Hype rund um Künstliche Intelligenz aus.
