In einer Grundsatzrede vor den Teilnehmern und Gästen des Treffens führender Industrienationen sagte der Papst: "(Der) rasante technologische Fortschritt macht Künstliche Intelligenz zu einem faszinierenden und zugleich unheimlichen Instrument und verlangt nach einer Reflexion, die der Situation gerecht wird."
Franziskus forderte, dass existenzielle Entscheidungen auch künftig immer dem Menschen überlassen bleiben müssten, und erklärte: "Wir würden die Menschen zu einer hoffnungslosen Zukunft verdammen, wenn wir ihr die Fähigkeit nähmen, über sich selbst und ihr Leben zu entscheiden, und sie verdammten, von der Wahl von Maschinen abhängig zu sein."
Scheinbar gehe derzeit "der Wert und die tiefe Bedeutsamkeit einer der grundlegenden Kategorien des Westens verloren: die Kategorie der menschlichen Person".
Maschinen contra Menschenleben
Mit Blick auf die moderne Kriegsführung fordert der Papst, die Entwicklung von "tödlichen autonomen Waffen" zu überdenken, ihren Einsatz zu verbieten und sie als ersten Schritt "einer immer größeren und bedeutenden menschlichen Kontrolle" zu unterstellen. "Keine Maschine darf jemals die Wahl treffen können, einem Menschen das Leben zu nehmen", so der Papst.
Weiter gab das Kirchenoberhaupt zu bedenken, dass fortgeschrittene Formen der KI weder von Nutzern noch von Programmierern vollständig kontrolliert werden könnten. Wahrscheinlich seien "in nicht allzu ferner Zukunft Programme Künstlicher Intelligenz in der Lage, direkt miteinander zu kommunizieren, um ihre Performance zu verbessern". Sie kämen dann in die Lage, die Existenz der Menschen mehr als jedes andere von Menschen geschaffene Werkzeug zu prägen.
Zudem bedrohe der Verstärkungsmechanismus (Algorithmus), der vielen KI-Anwendungen zugrunde liegt, die Fundamente menschlicher Werte, warnte Franziskus. Sie bestätige bestehende Inhalte, "oft ohne zu prüfen, ob sie Fehler oder Vorurteile enthält." Dadurch könnten Fake News legitimiert und dominante Kulturen weiter gestärkt werden. Auch menschliches Lernen werde bedroht, wenn der Bildungsprozess "auf eine Wiederholung von Begriffen reduziert (wird), die allein aufgrund ihrer ständigen Wiederkehr zunehmend als unanfechtbar bewertet werden".
Ethik der Algorithmen
Ferner bestehe "die konkrete Gefahr, dass die Künstliche Intelligenz gemäß ihrem grundlegenden Mechanismus die Sicht der Welt auf in Zahlen ausgedrückte und in vorgefertigte Kategorien gefasste Wirklichkeiten beschränkt, den Beitrag anderer Ausdrucksformen der Wahrheit verdrängt und einheitliche anthropologische, sozioökonomische und kulturelle Modelle aufzwingt". Angesichts dieser Risiken fordert der Papst die Entwicklung einer "Algorethik" (Ethik der Algorithmen).
Auch die politisch Verantwortlichen seien gefordert, so Franziskus.
"Nur eine gesunde Politik könnte hier die Führungsrolle übernehmen und dabei die verschiedensten Sektoren und die unterschiedlichsten Wissensbereiche einbeziehen. So kann eine Wirtschaft, die sich in ein politisches, soziales, kulturelles und vom Volk her kommendes Projekt für das Gemeinwohl einfügt, den Weg für andere Möglichkeiten (eröffnen), die nicht etwa bedeuten, die Kreativität des Menschen und seinen Sinn für Fortschritt zu bremsen, sondern diese Energie auf neue Anliegen hin auszurichten."
Genau das sei bei der Künstlichen Intelligenz der Fall. "Es liegt an allen, sie sinnvoll zu nutzen, und es kommt der Politik zu, die Bedingungen dafür zu schaffen, dass eine solche positive Nutzung möglich und fruchtbar ist", so der Papst am Schluss seiner langen Rede vor den beim G7-Gipfel versammelten Staats- und Regierungschefs.
Was ist Künstliche Intelligenz?
Der Begriff Künstliche Intelligenz (KI) wurde vor mehr als 60 Jahren geprägt durch den US-Informatiker John McCarthy. Er stellte einen Antrag für ein Forschungsprojekt zu Maschinen, die Schach spielten, mathematische Probleme lösten und selbstständig lernten. Im Sommer 1956 stellte er seine Erkenntnisse anderen Wissenschaftlern vor. Der britische Mathematiker Alan Turing hatte sechs Jahre zuvor bereits den "Turing Test" entwickelt, der bestimmen kann, ob das Gegenüber ein Mensch ist oder eine Maschine, die sich als Mensch ausgibt.
