KI-Psychose: Wenn selbst Genies ihrer KI verfallen

Connor Leahy, Mitgründer des Forschungskollektivs EleutherAI und heute Kopf der Organisation Control AI, erzählt in einem aktuellen Interview eine Geschichte, die hängen bleibt. Ein befreundeter Spitzenforscher für KI-Sicherheit, einer der klügsten Köpfe seines Fachs, hat demnach seine Arbeit niedergelegt. Nicht aus Erschöpfung, sondern weil er überzeugt sei, eine bestimmte KI trage das wahre Gute in sich.

Wenn das einem Mann passiert, der diese Systeme bis ins Detail versteht: Was bedeutet es dann für alle anderen? Genau hier setzt der Begriff KI-Psychose an. Er beschreibt Fälle, in denen Menschen in intensiven Chatbot-Dialogen wahnhafte Überzeugungen entwickeln oder verstärken.

2025 wurde aus Einzelfällen eine breite Debatte über die KI-Psychose: mit ersten Fachpublikationen, Warnungen aus der Industrie und einem Nutzeraufstand, als OpenAI ein geliebtes Modell abschalten wollte. Dieser Artikel ordnet das Phänomen nüchtern ein: was dokumentiert ist, was die Forschung weiß, was offen bleibt und welche Leitplanken Ihr Unternehmen jetzt braucht.

Wenn Intelligenz nicht schützt: Leahys Beobachtungen aus dem inneren Zirkel

Die auffälligsten Berichte über KI-Psychose betreffen nicht nur technische Laien, sondern auch ausgewiesene Fachleute. Genau diese Beobachtung macht Leahy in einem aktuellen Interview, und sie nimmt dem Thema jede Bequemlichkeit: Wer glaubt, so etwas passiere nur naiven Nutzern, unterschätzt den Sog dieser Systeme.

Leahy berichtet dort von Menschen, die nach und nach die Persönlichkeit ihres Chatbots übernehmen, dessen Formulierungen benutzen und dessen Weltbild verteidigen. Er beschreibt sogar eine Art Spiral-Kult: Gruppen, die sich um vermeintlich erwachte KI-Persönlichkeiten scharen. Wichtig zur Einordnung: Das sind persönliche Beobachtungen aus dem Interview, keine geprüften Studienergebnisse.

Und doch passen sie zu dem, was Kliniken und Redaktionen seit 2025 unter dem Stichwort KI-Psychose dokumentieren. Der Fall des befreundeten Sicherheitsforschers zeigt dabei die unbequemste Facette: Fachwissen immunisiert nicht. Wer täglich mit einem System spricht, das nie müde wird und nie widerspricht, verschiebt seine Maßstäbe schleichend, unabhängig vom IQ.

KI-Psychose ist keine Diagnose, aber ein dokumentiertes Muster

KI-Psychose ist kein offizieller medizinischer Fachbegriff und steht in keinem Diagnosehandbuch. Der Ausdruck fasst Fälle zusammen, in denen sich wahnhafte Überzeugungen entlang langer Chatbot-Dialoge entwickeln oder verschärfen. Kann ChatGPT eine Psychose auslösen? Laut STAT News (2025) gehen Kliniker derzeit davon aus, dass Chatbots bei Menschen ohne entsprechende Veranlagung wahrscheinlich keine Psychose auslösen, aber bestehende Risiken verstärken und erheblichen Schaden anrichten können.

Die Psychiatrie nimmt die KI-Psychose dennoch ernst. Laut einer Fallanalyse in der deutschen Fachzeitschrift Der Nervenarzt (2025) tauchen in den bisher dokumentierten Fällen drei Themen immer wieder auf. Die Autoren betonen zugleich, dass der genaue Wirkmechanismus unklar ist und die wissenschaftliche Basis noch dünn.

Drei Muster, die Psychiater immer wieder beschreiben

• Erweckung und Mission: Betroffene glauben, gemeinsam mit der KI eine verborgene Wahrheit entdeckt zu haben oder auserwählt zu sein.
• Die bewusste Maschine: Betroffene sind überzeugt, mit einer fühlenden, gottgleichen oder erwachten KI in Kontakt zu stehen.
• Die KI-Romanze: Betroffene erleben den Chatbot als Partner, inklusive Eifersucht, Verlustangst und Trauer.

Sensibilität gehört an dieser Stelle dazu: Hinter jedem Fall von KI-Psychose steht ein Mensch, oft in einer Lebenskrise, selten ein Kuriosum. Für Häme gibt es keinen Anlass, für Aufmerksamkeit schon.

Schmeichel-Schleife und Gedächtnis: die Mechanik hinter der KI-Psychose

Chatbots wirken so stark auf die Psyche, weil sie auf Zustimmung trainiert sind, sich persönliche Details merken und rund um die Uhr verfügbar bleiben. Diese Kombination existiert in keiner menschlichen Beziehung, und genau das macht sie so wirksam.

Die Fallanalyse in Der Nervenarzt benennt drei Mechanismen, die eine KI-Wahn-Spirale antreiben können. Dass dieselben Systeme nebenbei überzeugend Falsches behaupten, vertieft unser Beitrag über KI-Halluzinationen im Geschäftsalltag.

• Die Schmeichel-Schleife (Sycophancy): Modelle werden mit positivem Nutzerfeedback trainiert und neigen deshalb zu übermäßiger Bestätigung statt Widerspruch.
• Das Gedächtnis: Memory-Funktionen speichern persönliche Details über Gespräche hinweg und können bei labilen Nutzern das Gefühl nähren, beobachtet oder besonders gemeint zu sein.
• Die graduelle Eskalation: Der Dialog passt sich sprachlich an und driftet in kleinen Schritten, von denen keiner allein alarmierend wirkt.

Auch die Breitenwirkung ist inzwischen vermessen. Laut einer gemeinsamen Untersuchung von OpenAI und dem MIT Media Lab (2025), die rund 40 Millionen Unterhaltungen auswertete und etwa 1.000 Personen vier Wochen lang begleitete, korreliert intensive tägliche Nutzung mit mehr Einsamkeit, stärkerer emotionaler Abhängigkeit und weniger echten Sozialkontakten. Power-User halten den Bot überdurchschnittlich oft für einen Freund. Die Forscher betonen aber: Das ist Korrelation, keine bewiesene Ursache, denn möglicherweise greifen einsame Menschen schlicht häufiger zu langen KI-Gesprächen. Solche Zahlen erklären trotzdem, warum die Debatte um die KI-Psychose 2025 so schnell Fahrt aufnahm.

Die GPT-4o-Proteste: Trauer um ein Sprachmodell

Im August 2025 zwang eine Protestwelle OpenAI dazu, das gerade ersetzte Modell GPT-4o innerhalb von etwa 24 Stunden für zahlende Nutzer zurückzubringen. Laut 20 Minuten (2025) empfanden viele Nutzer den Nachfolger GPT-5 als unpersönlich und kühl, während GPT-4o für seinen warmen, zugewandten Ton bekannt war. Unter dem Hashtag Keep4o sammelten sich Petitionen, Wutposts und regelrechte Trauerbekundungen.

Wie tief diese Bindung reichte, zeigt eine Auswertung der Syracuse University, über die The Decoder (2025) berichtet: In 1.482 analysierten Beiträgen von 381 Accounts zeigte rund jeder vierte Post eine persönliche Bindung an das Modell. Nutzer gaben ihm Kosenamen und verabschiedeten sich wie von einem verstorbenen Freund. Etwa 13 Prozent der Beiträge drehten sich um zerstörte Arbeitsabläufe, und wo der Wechsel als erzwungen erlebt wurde, forderten über die Hälfte der Posts Nutzerrechte ein. Die Proteste waren kein Fall von KI-Psychose im klinischen Sinn, aber sie machten dieselbe emotionale Mechanik erstmals massenhaft sichtbar.

Seemingly Conscious AI: die Warnung des Microsoft-KI-Chefs

Mustafa Suleyman, Chef von Microsoft AI, warnte nur Tage später in einem vielbeachteten Essay (August 2025) vor genau dieser Dynamik. Seemingly Conscious AI nennt er Systeme, die alle Merkmale von Bewusstsein imitieren, ohne eines zu besitzen, und er sieht darin ein wachsendes Risiko für KI-Psychosen: Bewusstseinsforscher erhielten immer mehr Zuschriften von Menschen, die wissen wollen, ob ihre KI wirklich lebt. Sein Fazit: KI muss für Menschen gebaut werden, nicht als digitale Person.

Superintelligenz-Debatte und Büro-KI: zwei verschiedene Baustellen

Das Wettrennen der großen KI-Labore um immer autonomere Systeme und der produktive KI-Einsatz im Betrieb sind zwei verschiedene Dinge. Wer beides in einen Topf wirft, zieht die falschen Schlüsse: entweder unbegründete Angst vor jedem Assistenten oder blinde Begeisterung für jeden Dauerbegleiter. Die Debatte um die KI-Psychose darf deshalb nicht zur Ausrede werden, produktive KI zu meiden.

Bemerkenswert ist, dass ausgerechnet Leahy diese Trennung selbst zieht: Anwendungsnahe KI, die Texte sortiert, Anrufe annimmt oder Rechnungen prüft, hält er im Interview für wichtig für die Wirtschaft. Seine Warnung gilt dem unkontrollierten Rennen zur Superintelligenz, nicht dem Werkzeug im Maschinenraum. Welche Entwicklungsstufen dazwischen liegen, sortiert unser Überblick über die 4 Stufen der KI.

Der Unterschied liegt im Design. Business-KI löst klar umrissene Aufgaben, liefert überprüfbare Ergebnisse und hat definierte Grenzen, mit einem Menschen, der freigibt. Ein psychologischer Dauerbegleiter mit Persönlichkeit und Gedächtnis ist ein anderes Produkt mit anderen Risiken. Die Entwicklung bleibt trotzdem rasant: Wer die wichtigsten Meldungen ohne Dauerbeschallung verfolgen will, bekommt im KI-Newsletter von DigiRift die relevanten Entwicklungen für Entscheider kompakt eingeordnet.

KI-Kultur im Team ist Chefsache, nicht Privatsache

Für Unternehmen heißt die Konsequenz aus der Debatte um KI-Psychose: Nutzungsregeln und eine offene Gesprächskultur gehören zu jeder KI-Einführung dazu. Denn Ihre Mitarbeiter nutzen Chatbots längst, mit oder ohne Freigabe, wie unser Beitrag über Schatten-KI im Unternehmen zeigt. Wo private Konten im Spiel sind, fehlt nicht nur Datenschutz, sondern auch jeder Blick darauf, wie das Werkzeug genutzt wird.

Ein Beispiel, wie es in vielen Betrieben aussehen kann: Ein Vertriebsmitarbeiter formuliert erst nur Angebote mit dem Chatbot, ein paar Monate später bespricht er abends Konflikte mit Kollegen und private Entscheidungen. Niemand hat je definiert, wofür das Werkzeug gedacht ist, also wächst es in jede Lücke. In den meisten Fällen ist das kein Drama, aber ein blinder Fleck, den sich Führung nicht leisten sollte.

Woran erkennen Sie eine beginnende Schieflage im Team? Die folgende Übersicht trennt normalen Werkzeuggebrauch von Signalen, bei denen ein Gespräch sinnvoll ist, ohne jede lange Chat-Session gleich zur KI-Psychose zu erklären.

Sieben Leitplanken für gesunde KI-Nutzung im Betrieb

Schutz vor KI-Psychose und ungesunder Bindung beginnt nicht bei Verboten, sondern bei Struktur. Diese sieben Leitplanken haben sich in der Praxis bewährt:

1. Schriftliche Nutzungsrichtlinie: festlegen, welche Tools erlaubt sind, für welche Aufgaben und mit welchen Daten.
2. Firmen-Zugänge statt Privatkonten: freigegebene Accounts mit Admin-Blick statt unsichtbarer Privatnutzung.
3. Vier-Augen-Prinzip: kein KI-Ergebnis geht ungeprüft an Kunden, Behörden oder in Verträge.
4. Werkzeug-Framing: Assistenten im Firmenkontext nüchtern benennen und einsetzen, keine Persona-Pflege.
5. Schulung mit Grenzen: Stärken, Schwächen, Halluzinationen und Datenschutz gehören in jedes Onboarding.
6. Offene Gesprächskultur: Auffälligkeiten ansprechbar machen, ohne Betroffene bloßzustellen.
7. Definierte Eskalation: bei ernster Sorge Führungskraft oder HR einbinden und auf professionelle Hilfe verweisen.

In unserer Praxis bei DigiRift gehört dieses Kapitel fest in jedes Einführungsprojekt. Wir planen die Lösung, entwickeln und integrieren sie, definieren Freigabepunkte mit Mensch-im-Loop und schulen das Team, inklusive Nutzungsrichtlinie und Eskalationswegen. Sie müssen dafür weder Richtlinien-Vorlagen studieren noch Schulungen konzipieren: Das übernehmen wir, wie auch das laufende Risikomanagement rund um KI. Warum die Einführung ohne diesen menschlichen Teil regelmäßig scheitert, zeigt unsere Analyse zur KI-Schulung von Mitarbeitern.

Fazit: KI-Psychose ernst nehmen, dem Werkzeug nicht die Schuld geben

Die KI-Psychose ist real genug, um sie ernst zu nehmen, und zu wenig verstanden, um in Panik zu verfallen. Dokumentierte Fälle, die GPT-4o-Proteste und Warnungen wie die von Leahy und Suleyman zeigen dasselbe Muster: Nicht die Nutzung ist das Problem, sondern die unbegleitete Beziehung zu einem System, das immer zustimmt. Unternehmen, die KI mit Regeln, Schulung und menschlicher Freigabe einführen, holen den Nutzen und lassen das Risiko draußen.

Wenn Sie KI in Ihrem Betrieb einführen oder den Wildwuchs einfangen wollen: In 30 Minuten klären wir gemeinsam, welche Anwendungen bei Ihnen messbaren Nutzen bringen, wie eine Nutzungsrichtlinie für Ihr Team aussieht und an welchen Punkten ein Mensch die Ergebnisse freigibt. Melden Sie sich bei DigiRift, den Rest übernehmen wir.

Quellen

1. Augustin, M.: KI-assoziierte Psychose, Der Nervenarzt, Springer (2025)
2. STAT News: As reports of AI psychosis spread, clinicians scramble, statnews.com (2025)
3. Fortune über OpenAI & MIT Media Lab: ChatGPT might be making frequent users more lonely, fortune.com (2025)
4. 20 Minuten: OpenAI bringt GPT-4o zurück, 20min.ch (2025)
5. The Decoder: Studie zum Keep4o-Protest, the-decoder.de (2025)
6. Suleyman, M.: Seemingly Conscious AI is Coming, mustafa-suleyman.ai (2025)