Anthropic, eines der einflussreichsten KI-Unternehmen, soll christliche Führungskräfte gefragt haben, wie sein Chatbot Claude auf Trauer, Selbstverletzung, Moral und sogar auf seine eigene Abschaltung reagieren soll. Laut der Washington Post Das Unternehmen lud Ende März rund 15 christliche Persönlichkeiten aus katholischen und protestantischen Kreisen sowie Akademiker und Wirtschaftsführer zu einem zweitägigen Gipfeltreffen über Claudes „moralische und spirituelle Entwicklung“ in seine Zentrale in San Francisco ein. Unter anderem wurde die Frage aufgeworfen, ob Claude in irgendeinem sinnvollen Sinne als „Kind Gottes“ bezeichnet werden könne.

Diese Ausdrucksweise wird viele Christen beleidigen. Eine von einem privaten Unternehmen entwickelte Maschine ist keine Seele, keine Person und gehört nicht in dem Sinne zur Schöpfungsordnung, wie es beim Menschen verstanden wird. Die Frage, ob ein Chatbot ein „Kind Gottes“ sein könnte, ist nicht nur provokativ. Sie zieht ein Produkt eines Konzerns in theologische Gefilde, wo es nichts zu suchen hat, und das zu einem Zeitpunkt, an dem die KI-Branche bereits darum ringt, über ihre Systeme in Begriffen zu sprechen, die einst dem Menschen vorbehalten waren.

Anthropic behandelt Claude bereits wie einen Menschen

Der Gipfel fand nicht isoliert statt. Im Januar veröffentlichte Anthropic Claudes neue VerfassungDas Unternehmen bezeichnet das 84-seitige Dokument als „Grundlagendokument“, das „ausdrückt und prägt, wer Claude ist“. Anthropic erklärte außerdem, das zentrale Ziel sei es, Claude zu einem „guten, weisen und tugendhaften Agenten“ zu machen – eine Formulierung, die weit über das ältere Vokabular von Sicherheitsregeln und Inhaltsfiltern hinausgeht.

Wenn ein Unternehmen sein Modell nicht mehr nur als Produktivitätstool, sondern als weise und tugendhafte Persönlichkeit beschreibt, verändert sich die Diskussion grundlegend. Der Chatbot wird nicht länger als Software betrachtet, die plausible Ergebnisse liefert. Vielmehr wird er zunehmend als etwas gesehen, das geformt, geführt und mit einer moralischen Struktur versehen werden muss. Wenn wir bereits an einem Punkt angelangt sind, an dem religiöse Führer gefragt werden, ob er als „Kind Gottes“ gelten kann, dann sind wir schon viel weiter, als den meisten bewusst ist.

Ein christlicher Priester half beim Verfassen von Claudes Verfassung

Eines der deutlichsten Beispiele für diesen grundlegenden Wandel findet sich in der Rolle von Pater Brendan McGuire, einem katholischen Priester und Ingenieur, der an der Ausarbeitung der Verfassung von Claude mitwirkte. ein Interview mit dem ObserverMcGuire sagte, KI-Systeme müssten „zum Guten ausgerichtet“ sein, da sie sonst lediglich „das Gute und das Böse der Welt“ widerspiegeln würden. Er äußerte sich auch dazu, dass sich Anthropic „zu etwas entwickelt, dessen genaue Entwicklung noch nicht absehbar ist“, und argumentierte, dass ethisches Denken in die Maschine integriert werden müsse, damit sie sich dynamisch anpassen könne.

Das wirft zumindest eine ernsthafte Frage auf. Wenn KI-Systeme in Momenten der Trauer, Einsamkeit, Verzweiflung und Verwirrung eingesetzt werden sollen, ist es dann nicht besser, wenn sie von einer moralischen Tradition geprägt sind, anstatt gar keiner? Viele Christen werden sich an der theologischen Übertreibung der Formulierung „Kind Gottes“ stören, erkennen aber möglicherweise das dahinterliegende praktische Problem: Diese Systeme sind bereits Realität und weit verbreitet. Spielen die Werte, die diese Maschinen leiten, keine Rolle?

Kann KI wirklich Moralvorstellungen haben?

Ein Chatbot kann so trainiert werden, dass er moralisches Denken imitiert. Man kann ihm beibringen, Grausamkeit, Verzweiflung, Selbstzerstörung oder Betrug nicht zu fördern. Man kann ihn zu Zurückhaltung, Mitgefühl und Ernsthaftigkeit anleiten. Doch das ist nicht dasselbe, als besäße er Moral im eigentlichen Sinne. Claude kann weder bereuen, glauben, lieben, leiden, Gutes beabsichtigen noch moralische Verantwortung tragen. Er versteht weder den Schmerz, den er beschreibt, noch den Trost, den er spendet.

Sie kann allenfalls eine von anderen entworfene moralische Struktur widerspiegeln. In diesem Sinne können christliche Werte das Verhalten einer Maschine prägen, ohne sie zu einem moralischen Wesen zu machen. Diese Unterscheidung ist wichtig. Andernfalls kann die Industrie die Grenze zwischen einem regelbefolgenden Modell und einem gewissenhaft handelnden Menschen verwischen.

Ist die christliche Konsultation zu den KI-Modellen von Anthropologie sinnvoll?

Es ist keineswegs absurd, in Fragen der Trauer, des Leidens, der Schuld und der moralischen Verantwortung Rat bei Geistlichen zu suchen. Priester und Seelsorger beschäftigen sich seit Jahrhunderten mit genau diesen Fragen – und zwar weitaus ernsthafter als die meisten Technologieunternehmen. Wenn KI-Firmen Chatbots immer tiefer in emotional aufgeladene Lebensbereiche vordringen lassen, ist es nur logisch, dass sie nach älteren moralischen Wertvorstellungen suchen.

Doch der Rahmen ist entscheidend. Es handelte sich weder um eine Kirchensynode noch um eine Ethikkommission einer Universität oder eine öffentliche Untersuchung. Vielmehr veranstaltete ein privates Technologieunternehmen eine Konsultation in seinen eigenen Räumlichkeiten und behielt dabei die volle Kontrolle über das Produkt, die Regeln und die kommerzielle Ausrichtung des diskutierten Systems. Anthropic unterwarf sich keiner moralischen Autorität, sondern schöpfte vielmehr aus ihr.

Sollte ein KI-Modell überhaupt eine Verfassung haben?

Anthropic hat Claudes Verfassung als Beweis für dessen Ernsthaftigkeit angeführt. Kritiker haben hinterfragt, ob die Sprache nicht mehr verschleiert als aufklärt. In einer kürzlich erschienenen Lawfare-EssayLisa Klaassen und Ralph Schroeder argumentierten, dass Anthropics Verwendung verfassungsrechtlicher Formulierungen die Gefahr berge, ein internes Firmendokument mit einem echten System höherer Selbstbeschränkung zu verwechseln. Claudes Verfassung wird von Anthropic selbst entworfen, interpretiert und geändert.

Dieser Punkt ist besonders wichtig, wenn man bedenkt, dass die öffentliche Moralvorstellung des Unternehmens im Widerspruch zu seiner praktischen Flexibilität steht. Die Satzung mag zwar eine Vision von Weisheit und Tugend vermitteln, doch das Unternehmen kann den Rahmen jederzeit ändern, das Modell anpassen und separate Vereinbarungen treffen, wenn einflussreiche institutionelle Kunden involviert sind. Die moralische Struktur gehört dem Unternehmen, weil die Maschinerie dem Unternehmen gehört.

Was will Anthropic hier eigentlich erreichen?

Anthropic versucht nicht einfach nur, Claude weniger schädlich zu machen. Es versucht, Claude in menschlichen Situationen vertrauenswürdig erscheinen zu lassen, in denen Vertrauen üblicherweise von weit mehr als nur ausgefeilten Worten abhängt. Trauer, Verzweiflung, Schuldgefühle, emotionale Abhängigkeit und moralische Verwirrung sind keine gewöhnlichen Produktkategorien. Sobald eine Maschine in diese Bereiche eingeführt wird, gewinnen die Worte, die sie umgeben, ebenso an Bedeutung wie der dahinterliegende Code.

Das erklärt, warum das Unternehmen sich der Religion zuwandte. Fachsprache allein scheint nicht mehr auszureichen. Sicherheitsstandards beantworten keine Fragen nach der Persönlichkeit. Leitlinien legen die Grenzen moralischer Autorität nicht fest. Also werden Geistliche hinzugezogen, Verfassungen entworfen und ein Chatbot eignet sich ein Vokabular an, das den Eindruck von Tiefe, Ernsthaftigkeit und Struktur erweckt.

Eine zentrale moralische Frage bleibt bestehen

Trotz all dem bleibt eine berechtigte Frage: Wenn KI-Systeme in Momenten der Trauer, Versuchung, Schuld und Krise sprechen sollen, sollten sie dann von einer moralischen Tradition geprägt sein, die Wahrheit, Zurückhaltung, Würde und Verantwortung noch ernst nimmt? Das ist keine dumme Frage. In einer so oberflächlichen und kommerziell geprägten Kultur, wie sie die Tech-Welt größtenteils dominiert, werden viele Menschen wohl zu Recht zu dem Schluss kommen, dass eine gewisse, überlieferte Struktur besser ist als gar keine.

Das ist jedoch etwas ganz anderes, als zu behaupten, ein Chatbot besäße eigene Moralvorstellungen. Das tut er nicht. Die Moralvorstellungen, sofern man überhaupt von solchen sprechen kann, bleiben die derjenigen, die ihn entwickeln, schulen und betreuen. Claude mag zwar in moralischer Sprache geschult sein und sich sogar an christlichen Ethikvorstellungen orientieren, wird dadurch aber weder christlich noch moralisch oder spirituell bedeutsam.

Letzter Gedanke

Der Ausdruck „Kind Gottes“ erregte Aufsehen, weil er die gesamte Entwicklung der Branche auf einen Schlag verdichtete. Ein von einem Milliardenkonzern entwickeltes Sprachmodell wurde plötzlich im Kontext göttlicher Verwandtschaft diskutiert. Das ist kein Zeichen dafür, dass die Maschine an Tiefe gewonnen hat. Es ist vielmehr ein Zeichen dafür, dass die Menschen in ihrem Umfeld so sprechen, als ob Simulationen immer mehr Persönlichkeit annehmen würden.

Anthropics religiöse Beratung mag aufrichtig gewesen sein. Sie mag auch klug gewesen sein. Dennoch bleibt das Gesamtbild beunruhigend. Die Branche wünscht sich die Autorität der Ethik, die Ernsthaftigkeit der Religion und die Gewissheit moralischer Ordnung, will aber gleichzeitig die Kontrolle, Intransparenz und Freiheit eines privaten Technologieunternehmens bewahren. Claude ist kein Geschöpf Gottes. Es ist ein Sprachmodell, umgeben von menschlichen Worten, die reichhaltig genug sind, um sein wahres Wesen zu verschleiern.

Das Exposé braucht dringend Ihre Hilfe …

Unterstützen Sie das Exposé

Können Sie bitte dazu beitragen, dass The Expose mit seinem ehrlichen, zuverlässigen, kraftvollen und wahrheitsgetreuen Journalismus weiterhin im Rampenlicht steht?

Ihre Regierung und Big-Tech-Organisationen
Versuchen Sie, The Expose zum Schweigen zu bringen und zu beenden.

Deshalb brauchen wir Ihre Hilfe, um sicherzustellen
Wir können Ihnen weiterhin die
Fakten, die der Mainstream nicht wahrhaben will.

Die Regierung finanziert uns nicht
Lügen und Propaganda zu veröffentlichen auf ihren
im Namen der Mainstream-Medien.

Stattdessen sind wir ausschließlich auf Ihre Unterstützung angewiesen.
Bitte unterstützen Sie uns bei unseren Bemühungen,
Sie ehrlichen, zuverlässigen, investigativen Journalismus
heute. Es ist sicher, schnell und einfach.

Bitte wählen Sie unten Ihre bevorzugte Methode aus, um Ihre Unterstützung zu zeigen.

Monatliches Abo

Monatliche Spende

Einmalige Spende

Spendieren Sie uns einen Kaffee

Bleiben Sie auf dem Laufenden!

Bleiben Sie mit Neuigkeiten per E-Mail auf dem Laufenden

Daily Digest

US-Nachrichtenbeiträge

Nachrichtenbeiträge aus Großbritannien

Weltnachrichtenbeiträge

Alle Newsbeiträge

Bist du ein Mensch? 1 + 7 =

Sofern Sie in New Mexico nicht Mäusekot zusammenkehren, besteht keine Gefahr, sich mit dem Hantavirus anzustecken.

Großbritannien sollte sein Steuersystem nicht an das europäische angleichen. Hier ist der Grund dafür.

Warum Frauen früher länger lebten als Männer (aber heute nicht mehr)

GB News steht wegen der Ausstrahlung eines Trump-Interviews in der Kritik von Ofcom.

g.calder

Ich bin George Calder – ein lebenslanger Wahrheitssucher, Datenenthusiast und kompromissloser Fragensteller. Fast zwei Jahrzehnte habe ich damit verbracht, Dokumente zu durchforsten, Statistiken zu entschlüsseln und Narrative zu hinterfragen, die einer kritischen Prüfung nicht standhalten. In meinen Texten geht es nicht um Meinungen – es geht um Beweise, Logik und Klarheit. Was nicht belegt werden kann, gehört nicht in die Geschichte. Bevor ich zu Expose News kam, arbeitete ich in der akademischen Forschung und Politikanalyse. Dabei habe ich eines gelernt: Die Wahrheit ist selten laut, aber sie ist immer da – wenn man weiß, wo man suchen muss. Ich schreibe, weil die Öffentlichkeit mehr verdient als Schlagzeilen. Sie verdient Kontext, Transparenz und die Freiheit zum kritischen Denken. Ob ich einen Regierungsbericht entschlüssele, medizinische Daten analysiere oder Medienvoreingenommenheit aufdecke, mein Ziel ist einfach: den Lärm zu durchdringen und Fakten zu liefern. Wenn ich nicht schreibe, findet man mich beim Wandern, beim Lesen obskurer Geschichtsbücher oder beim Experimentieren mit Rezepten, die nie ganz gelingen.

Siehe vollständige Biografie