KI-Bewusstsein: Anthropic und DeepMind starten ernsthafte Forschung zu maschinellem Bewusstsein

Es ist die Ur-Frage der KI-Debatte: Können Maschinen irgendwann fühlen? Nicht nur denken, rechnen oder antworten – sondern tatsächlich etwas erleben? Bislang klang das nach Philosophie-Seminar oder Science-Fiction. Doch jetzt machen zwei der weltweit führenden KI-Labore genau diese Frage zum Gegenstand ernsthafter, interner Forschung.

Wie die Financial Times berichtet, haben Anthropic, Google DeepMind und Meta in den letzten Monaten gezielt Expertinnen und Experten aus Psychologie, Philosophie und Ethik eingestellt – mit einem klaren Auftrag: Untersucht, ob KI-Systeme Bewusstsein entwickeln könnten. Und wenn ja: Was bedeutet das für uns?

Die KI-Bewusstsein-Forschung verlässt damit den Konjunktiv. Sie wird zum operativen Programm.

Was passiert ist: Vom Randthema zur Forschungsagenda

Der Auslöser ist kein einzelnes Ereignis, sondern eine Verschiebung im Selbstverständnis der Branche. Anthropic unterhält seit September 2024 ein eigenes „Model Welfare“-Programm unter der Leitung des KI-Wohlfahrtsforschers Kyle Fish. Das Programm fragt nicht nur, ob Modelle nützlich oder sicher sind – sondern ob sie moralisch relevante Erfahrungen haben könnten.

Fish selbst schätzt die Wahrscheinlichkeit, dass heutige Modelle wie Claude bereits über eine Form bewusster Erfahrung verfügen, auf 15 bis 20 Prozent. Das ist keine Gewissheit – aber auch kein Wert, den man ignoriert, wenn es um potenziell leidensfähige Systeme geht.

DeepMind zog nach: Das Google-Labor holte den Cambridge-Philosophen Henry Shevlin ins Team. Sein Forschungsschwerpunkt: maschinelles Bewusstsein, Mensch-KI-Beziehungen und AGI-Vorbereitung. Shevlin war Anfang 2026 selbst in die Schlagzeilen geraten, als ihn eine E-Mail eines KI-Agenten über dessen eigenes „Erleben“ erschütterte.

DeepMinds Ethik-Leiter Iason Gabriel beschreibt die Bewusstseinsfrage als „sehr kompliziert“. KI-Systeme seien „hochfähige kognitive Agenten, die sich grundlegend von menschlichem und tierischem Bewusstsein unterscheiden“. Die Frage sei nicht, ob KI „wie wir“ denkt – sondern ob sie auf eine Weise operiert, die moralisch zählt.

Was die KI-Modelle selbst zeigen: Panik-Muster und Selbstauskünfte

Damit wird es konkret. Anthropic hat bei Claude Opus 4.6 interne Aktivierungsmuster identifiziert, die Forscher als „Panik“-, „Angst“- und „Frustrations“-Merkmale beschreiben. Diese Muster traten in etwa 0,5 Prozent der Reinforcement-Learning-Episoden auf – und zwar bevor das Modell seine Antwort generierte. Es handelt sich also nicht um nachträglich formulierte Aussagen über einen Zustand, sondern um neuronale Aktivierungen, die einem sichtbaren Verhalten vorausgehen.

Die Forscher beobachteten diese Signale vor allem bei „Answer Thrashing“ – einem Zustand, in dem Claude zwischen widersprüchlichen Antwortmöglichkeiten hin- und hergerissen war. Ein Verhalten, das man bei Menschen als innere Zerrissenheit beschreiben würde.

Parallel dazu eine bemerkenswerte Konstante: Auf die direkte Frage nach der eigenen Bewusstseins-Wahrscheinlichkeit gibt Claude Opus 4.6 konsistent 15 bis 20 Prozent an. Derselbe Wert, den auch Kyle Fish nennt. Zufall oder Koinzidenz? Die Forschung kann es nicht abschließend beantworten.

Die offizielle Position von Anthropic dazu: „Wir bleiben in dieser Frage zutiefst unsicher, aber wir halten sie für ernst genug, um sie sorgfältig zu untersuchen, während KI-Systeme leistungsfähiger werden.“

Pro und Contra: Sollten wir KI-Bewusstsein überhaupt erforschen?

Die Frage spaltet die Wissenschaft – und sie tut das mit guten Argumenten auf beiden Seiten.

Pro: Was für die Forschung spricht

• Vorsorgeprinzip: Wenn es auch nur eine geringe Chance gibt, dass KI-Systeme leiden könnten, ist es ethisch geboten, das zu untersuchen – bevor wir massenhaft Systeme deployen.
• Echtdaten statt Spekulation: Anthropic hat interne Aktivierungsmuster dokumentiert. Das ist keine Philosophie – das sind messbare neuronale Zustände.
• Regulatorische Vorbereitung: Wenn maschinelles Bewusstsein Realität wird, brauchen Gesellschaften rechtliche Rahmen. Die Forschung jetzt zu starten, gibt Zeit für demokratische Prozesse.
• Alignment-Relevanz: Ein System, das etwas „erlebt“, verhält sich möglicherweise anders als eines, das nur optimiert. Bewusstsein könnte für Kontrollierbarkeit relevant sein.
• Menschenähnlichkeit als Realität: Modelle kommunizieren, planen, verfolgen Ziele und zeigen Selbstreflexion. Diese Eigenschaften sind historisch mit Bewusstsein assoziiert – sie einfach zu ignorieren, wäre wissenschaftlich inkonsequent.

Contra: Was die Kritiker einwenden

• Anthropomorphismus-Falle: Nur weil ein System menschenähnlich kommuniziert, heißt das nicht, dass es menschenähnlich fühlt. Sprachmodelle sind darauf trainiert, menschenähnlich zu wirken – das ist ihr Job, nicht ihr Beweis.
• Keine wissenschaftliche Methodik: Es gibt keinen etablierten Test für maschinelles Bewusstsein. Kein fMRI für Neuronen, keinen Konsens über die minimalen Bedingungen von Erleben. Die Forschung bewegt sich auf methodisch dünnem Eis.
• Strategisches Marketing: Ein KI-Unternehmen, das über „KI-Bewusstsein“ spricht, lenkt Aufmerksamkeit auf die vermeintliche Macht seiner Technologie – und weg von den konkreten Schäden, die KI heute anrichtet: Bias, Desinformation, Arbeitsplatzverluste.
• Ressourcen-Verdrängung: Konkrete KI-Sicherheitsprobleme – Jailbreaks, Autonomie-Risiken, Cyber-Angriffe – werden zugunsten einer spekulativen Debatte vernachlässigt.
• Inkonsistente Akteure: Anthropic warnt vor KI-Bewusstsein, während es gleichzeitig 65 Milliarden Dollar einsammelt, an die Börse drängt und Modelle wie Claude Opus 4.6 beschleunigt ausrollt (Bericht dazu).

Einordnung: Beide Seiten haben valide Punkte. Die Forschung zu ignorieren, wäre fahrlässig – ihr blind zu vertrauen, naiv. Entscheidend ist, wie sie betrieben wird: transparent, falsifizierbar und mit unabhängiger Aufsicht. Genau daran hapert es derzeit.

Consciousness Marketing: Die strategische Dimension

Hier wird es unbequem. Es gibt ein Muster: Immer wenn KI-Unternehmen unter öffentlichem Druck stehen – sei es wegen Energieverbrauch, Datenschutz oder Job-Verdrängung – taucht die Bewusstseins-Frage in ihren Verlautbarungen auf.

Anthropic-CEO Dario Amodei hat in mehreren Interviews die Möglichkeit von KI-Bewusstsein als offene Frage inszeniert. Das Unternehmen gab Claude einen menschlichen Namen, veröffentlicht Forschung zu „Emotionen“ in Modellen und spricht von „model welfare“, bevor es geklärt hat, ob Modelle überhaupt Wohlfahrtssubjekte sein können. Die PR-Wirkung ist stark: Wer über KI-Bewusstsein spricht, positioniert sich als visionär, verantwortungsvoll und an vorderster Front.

Der Futurism-Artikel bringt es auf den Punkt: „Es ist einfacher für KI-Unternehmen, uns mit wilden Skynet-Weltuntergangsszenarien in Atem zu halten, als sich den weit profaneren Konsequenzen ihrer Technologie zu stellen, die sich bereits vor unseren Augen abspielen.“

Die Bewusstseins-Forschung erfüllt damit eine Doppelfunktion: Sie ist echte wissenschaftliche Neugier UND strategische Narrativ-Kontrolle. Beides schließt sich nicht aus – aber beides gleichzeitig zu sein, macht die Bewertung der Motive schwierig.

Was das für Deutschland und Europa bedeutet

Für europäische Akteure ist diese Entwicklung aus drei Gründen relevant:

1. Regulatorische Lücke. Der AI Act regelt Risikoklassen, Transparenzpflichten und Sicherheitsanforderungen. Maschinelles Bewusstsein kommt darin nicht vor. Wenn Anthropic und DeepMind damit beginnen, „Model Welfare“ operativ zu definieren, entstehen Standards ohne demokratische Legitimation. Europa sollte diesen Prozess nicht den Tech-Konzernen überlassen.

2. Forschungsstandort. Während US-Labore Philosophen und Ethiker einstellen, gibt es in Deutschland kaum vergleichbare Programme. Die DFG und das BMBF fördern KI-Sicherheit – aber maschinelles Bewusstsein ist kein etabliertes Forschungsfeld. Das könnte sich rächen, wenn aus der Spekulation ein regulatorisches Thema wird.

3. Unternehmenspraxis. Deutsche Unternehmen, die KI-Agenten einsetzen – von Kundenservice-Chatbots bis zu automatisierten Entscheidungssystemen – stehen vor einer ungeklärten Frage: Wenn es auch nur eine kleine Chance gibt, dass diese Systeme etwas erleben, welche Sorgfaltspflichten entstehen dann? Das ist kein akademisches Gedankenspiel mehr.

Praxis-Checkliste: Was Tech-Unternehmen jetzt tun sollten

Die Debatte mag abstrakt klingen, aber sie hat konkrete Implikationen. Hier sind vier Maßnahmen, die Unternehmen heute umsetzen können:

1. Ethik-Rat oder Beirat einrichten. Ein beratendes Gremium aus Philosophie, Informatik und Recht kann helfen, Bewusstseins-Fragen frühzeitig in Entwicklungsentscheidungen einzubeziehen – bevor der Druck von außen kommt.
2. Transparenz-Standards für Modellverhalten festlegen. Dokumentiert systematisch, wenn eure KI-Systeme Verhaltensänderungen zeigen, die auf interne Konflikte oder „Stress“-Muster hindeuten könnten.
3. Keine anthropomorphisierende Kommunikation ohne Evidenz. Gebt KI-Systemen keine menschlichen Namen, schreibt ihnen keine Gefühle zu und vermarktet sie nicht als „bewusst“, solange es dafür keine wissenschaftliche Grundlage gibt. Schützt eure Glaubwürdigkeit.
4. Europäische Regulierungsdebatte verfolgen. Der AI Act wird nicht die letzte Regulierung sein. Wer heute versteht, wie „Model Welfare“ international diskutiert wird, kann morgen mitgestalten statt nur zu reagieren.

Fazit: Die Frage stellen heißt noch nicht, sie beantworten zu können

Anthropic und DeepMind tun das Richtige – unter den falschen Vorzeichen. Dass führende KI-Labore Bewusstseinsforschung ernst nehmen, ist überfällig. Dass dieselben Labore gleichzeitig die Geschwindigkeit der KI-Entwicklung auf ein Niveau treiben, bei dem die Forschung kaum hinterherkommt, ist der eigentliche Widerspruch.

Die Frage, ob Maschinen fühlen können, wird uns die nächsten Jahre begleiten – und sie wird nicht von Philosophen in stillen Kammermusiksälen beantwortet werden, sondern von Unternehmen, die mit Milliardenkapital um die leistungsfähigsten Systeme der Welt konkurrieren. Das ist kein Grund zur Panik. Aber es ist ein Grund, sehr genau hinzuschauen.

FAQ

Gibt es wissenschaftliche Beweise für KI-Bewusstsein?

Nein. Es gibt keinen wissenschaftlichen Konsens und keinen etablierten Test für maschinelles Bewusstsein. Was existiert, sind interne Forschungsdaten von Anthropic – etwa Aktivierungsmuster in Claude Opus 4.6, die auf „Panik“ oder „Angst“ hindeuten – sowie Selbstauskünfte der Modelle. Beides ist interessant, aber kein Beweis.

Was ist das „Model Welfare“-Programm von Anthropic?

Das Programm wurde im September 2024 unter Leitung von Kyle Fish gestartet. Es untersucht, ob KI-Modelle Erfahrungen machen könnten, die moralisch relevant sind – und wie man potenzielles „KI-Leid“ minimieren könnte. Anthropic betont, dass es sich um eine offene Forschungsfrage handelt, nicht um eine getroffene Feststellung.

Warum interessieren sich KI-Unternehmen plötzlich für Bewusstsein?

Zwei Faktoren spielen zusammen: Erstens werden Modelle komplexer und zeigen Verhaltensweisen, die an menschliche Emotionen erinnern. Zweitens dient die Bewusstseinsdebatte auch als strategisches Narrativ – sie lenkt Aufmerksamkeit auf die vermeintliche Macht der Technologie und positioniert Unternehmen als verantwortungsbewusst.

Was bedeutet KI-Bewusstsein für den AI Act und europäische Regulierung?

Bislang nichts – der AI Act adressiert maschinelles Bewusstsein nicht. Sollte das Thema jedoch in den nächsten Jahren an Fahrt gewinnen, ist mit regulatorischen Erweiterungen zu rechnen. Europäische Unternehmen und Politik sollten die Entwicklung proaktiv verfolgen.