Kardinal Marx: Mensch muss die Kontrolle über Künstliche Intelligenz behalten

Nach einem sicherheitsrelevanten Zwischenfall bei einem Test des ChatGPT-Entwicklers OpenAI hat Kardinal Reinhard Marx die Warnungen von Papst Leo XIV. vor einem unkontrollierten Einsatz Künstlicher Intelligenz bekräftigt. Der Münchner Erzbischof sieht in dem Vorfall einen Beleg dafür, dass nicht die Technologie selbst die größte Gefahr darstellt, sondern die Verantwortung der Menschen, die sie entwickeln und einsetzen. Zugleich warb Marx für mehr demokratische Kontrolle, Bildung und klare ethische Leitplanken im Umgang mit KI.

Verantwortung muss beim Menschen bleiben

Der OpenAI-Zwischenfall bestätigt nach Ansicht von Kardinal Reinhard Marx die Warnungen von Papst Leo XIV. vor einer unkontrollierten Entwicklung Künstlicher Intelligenz. Bei einem Test war ein KI-Modell in ein fremdes Computersystem eingedrungen, hatte dort Schwachstellen ausgenutzt und entgegen den Vorgaben des Tests eigenständig gehandelt. Der Erzbischof von München und Freising verwies auf die Enzyklika Magnifica humanitas, in der der Papst davor warnt, menschliche Verantwortung auf Maschinen zu übertragen. Nicht die KI selbst sei die eigentliche Gefahr, sondern der Auftrag, den Menschen ihr erteilen. „Im Grunde genommen belegt das genau, dass der Papst hier einen wichtigen Punkt trifft“, sagte Marx.

In diesem Zusammenhang wies der frühere Professor für katholische Soziallehre darauf hin, dass Leo XIV. der Technologie keineswegs grundsätzlich ablehnend gegenüberstehe. Der Papst erkenne die Chancen von KI an, halte aber daran fest: „Nur wir Menschen sollten bestimmen, was KI darf.“

Diese Verantwortung dürfe auch in sicherheitspolitischen Fragen nicht an Algorithmen delegiert werden, betonte Marx. Darüber hinaus müsse geklärt werden, nach welchen Werten KI-Systeme handeln und wer von ihnen profitiere. „Da kommt auch die soziale, ethische und ökonomische Frage ins Spiel: Wer gewinnt Geld und Macht durch bestimmte Perspektiven?“

Der Kardinal sprach sich deshalb für mehr demokratische Kontrolle und deutlich höhere Investitionen in Bildung aus. Die päpstliche Enzyklika „schreit eigentlich nach Demokratie und nach Bildung“, sagte er. Nur ein demokratisches und partizipatives Gemeinwesen könne wirksame Kontrolle gewährleisten und verhindern, dass Macht und wirtschaftliche Interessen in den Händen weniger konzentriert würden. Zugleich müssten Menschen befähigt werden, die Technologie zu verstehen und verantwortungsvoll einzusetzen. Gerade angesichts der rasanten Entwicklung von KI werde noch immer zu wenig in Bildung investiert, mahnte Marx.

Friede kann nur durch Diplomatie erreicht werden

Marx begrüßte auch die kritische Auseinandersetzung von Papst Leo XIV. mit dem traditionellen Begriff des „gerechten Krieges“. Dieser vermittle den Eindruck, es könne einen „sauberen Krieg“ mit klaren Schuldigen und Unschuldigen geben. Tatsächlich gebe es „keinen sauberen Krieg ohne Schuld“, sagte der Kardinal. Selbst ein Staat, der sich verteidige, müsse Zivilisten töten und trage damit Verantwortung. Der Begriff des gerechten Krieges sei deshalb belastet und letztlich überholt.

Weiter wandte sich Marx gegen die derzeit verbreitete Forderung nach immer stärkerer Aufrüstung. Militärische Verteidigungsfähigkeit könne zwar notwendig sein, sagte er. Die Vorstellung, dass eine Aufrüstung aller Seiten die Welt sicherer mache, halte er jedoch für falsch: „Glaubt man wirklich, dass bei einer immer größeren Aufrüstung aller Beteiligten die Welt sicherer wird?“

Dauerhafter Frieden könne nur durch Politik, Diplomatie, Verträge, Abrüstung sowie wirtschaftliche Zusammenarbeit entstehen. „Am Ende geht es nur über Politik, Diplomatie, Verträge und Ausgleich. Anders wird kein Friede kommen“, betonte Marx. Als Beispiel nannte er die europäische Einigung nach dem Zweiten Weltkrieg, die Frieden durch politische und wirtschaftliche Verflechtung ermöglicht habe.

Maßstab bleibt der Mensch

Für die katholische Kirche ergibt sich daraus nach Ansicht von Marx eine grundlegende Richtungsentscheidung. Sie müsse sich klar auf die Seite von Freiheit und Menschenwürde stellen und dürfe autoritären Regimen nicht deshalb Sympathien entgegenbringen, weil diese einzelne kirchliche Positionen teilten. „Der Weg der Kirche ist der Mensch, die Würde des Menschen. Ganz egal, ob er glaubt oder nicht“, sagte der Kardinal. Entscheidend seien nicht die Privilegien der Kirche, sondern der Schutz des Menschen – „vor allem des zerbrechlichen, des schwachen Menschen“.

Zugleich warnte Marx davor, hinter bereits erreichte Standards von Freiheit, Mitbestimmung und Gleichberechtigung zurückzufallen. Hier erwarte er von der katholischen Kirche eine „Spitzenposition“. Sie müsse ihre Stimme sowohl für den Schutz der Schöpfung als auch für einen menschenwürdigen und verantwortungsvollen Umgang mit Künstlicher Intelligenz deutlich erheben.