Die Risiken von Modellen Künstlicher Intelligenz (KI) im Allgemeinen und in der Seelsorge im Besonderen dürften nicht in die Zukunft verlagert werden, sondern müssten immer schon im Vorhinein bedacht werden, sagte die Leiterin der Fachstelle Medien und Digitales im Bistum Regensburg der Katholischen Nachrichten-Agentur (KNA) am Freitag.
Gefahr durch erfundene Inhalte
Beispielhaft verwies sie auf einen in den USA kreierten virtuellen Priester, der Medienberichten zufolge auch eine Beichte "imitiert" hat. Was passiere etwa, wenn ein solches KI-Modell nicht mehr nur erwünschte Inhalte generiere, sondern Halluzinationen, also frei erfundene Inhalte verbreite oder gar menschenfeindliche Aussagen und gefährliche Weltanschauungen? Die Verantwortlichkeiten müssten klar geregelt sein und die Nutzer wissen, auf was sie sich einlassen.
"Wenn diese Fragen geklärt sind, spricht aus meiner Sicht nichts gegen den Einsatz von KI-Chatbots", so Köglmeier. Offen bleibe allerdings einstweilen, "ob diese Fragen wirklich mit hoher Sicherheit geklärt werden können, solange die Entscheidungsprozesse in KI-Modellen nicht transparent sind".
Aus KI-Debatte können neue Ideen entstehen
Grundsätzlich zeigte sich die Expertin davon überzeugt, "dass alleine die Überlegungen zu KI in der Seelsorge pastorale Debatten beleben können". Denn es müsse nicht immer die Entscheidung für oder gegen KI getroffen werden. Denkbar seien etwa "hybride Lösungen", zum Beispiel KI als Unterstützung für die Seelsorge, aber kontrolliert durch Menschen.
"Bei der Betrachtung von Chancen und Risiken muss immer der Mensch im Mittelpunkt stehen", betonte Köglmeier. Das bedeute auch: "Aspekte wie Umweltverträglichkeit, Datenschutz, Transparenz und ausbeuterische Arbeitsverhältnisse dürfen beim Einsatz von KI-Modellen nicht außer Acht gelassen werden." – Köglmeier ist eine der Autorinnen des Portals "digitalpastoral", auf dem sich Expertinnen und Experten zu dem Thema austauschen.
Was ist Künstliche Intelligenz?
Der Begriff Künstliche Intelligenz (KI) wurde vor mehr als 60 Jahren geprägt durch den US-Informatiker John McCarthy. Er stellte einen Antrag für ein Forschungsprojekt zu Maschinen, die Schach spielten, mathematische Probleme lösten und selbstständig lernten. Im Sommer 1956 stellte er seine Erkenntnisse anderen Wissenschaftlern vor. Der britische Mathematiker Alan Turing hatte sechs Jahre zuvor bereits den "Turing Test" entwickelt, der bestimmen kann, ob das Gegenüber ein Mensch ist oder eine Maschine, die sich als Mensch ausgibt.
