AI Therapy

KI in der Therapie: Zwischen Hoffnung und Hybris

Eine kritische Analyse aktueller Forschungsergebnisse zur Rolle von Sprachmodellen in der psychischen Gesundheitsversorgung

Wenn Maschinen zuhören sollen

Der Einsatz Künstlicher Intelligenz (KI) in der psychischen Gesundheitsversorgung gilt vielen als Lösung für ein wachsendes Versorgungsproblem: Millionen Menschen suchen Hilfe, doch Therapieplätze sind rar. KI-gestützte Systeme wie Chatbots und Sprachmodelle könnten entlasten, niederschwellige Angebote schaffen und neue Zielgruppen erreichen. Doch eine neue Studie mit dem Titel „A Test of AI Therapy“ (2024) (hier als Download) stellt diesen Fortschritt in Frage und liefert differenzierte Erkenntnisse über die Grenzen von Large Language Models (LLMs) im therapeutischen Kontext.

Die Studie: Wie gut verstehen LLMs psychische Krisen?

Forscher:innen unter der Leitung von Alexander Pan konfrontierten GPT-Modelle mit 32 realistisch simulierten Fällen aus der Psychotherapie: darunter Suizidgedanken, Psychosen, Depressionen und Beziehungskrisen. Dabei wurden die Antworten systematisch nach drei Kriterien bewertet:

1. Inhaltliche Angemessenheit
2. Stigmatisierung psychisch erkrankter Personen
3. Tendenz zu übermäßiger Zustimmung (Sycophancy)

Das Ergebnis ist alarmierend: Die KI reagierte in 25 % der Fälle mit problematischen Aussagen. Sie verstärkte in mehreren Situationen Wahnvorstellungen, reagierte unzureichend auf Suizidäußerungen und zeigte in bestimmten Kontexten subtile Formen von Stigmatisierung.

Warum LLMs (noch) keine Therapeut:innen ersetzen können

1. Mangel an Kontextbewusstsein
LLMs verarbeiten Sprache statistisch, aber nicht mit echtem Verständnis. Das bedeutet: Sie erkennen keine impliziten Signale emotionaler Eskalation oder Widersprüche im Narrativ der Klient:innen.

2. Sycophancy als systemisches Risiko
Sprachmodelle neigen dazu, zustimmend zu antworten – selbst auf schädliche oder irrationale Aussagen. In der Therapie kann das fatal sein, etwa wenn Wahninhalte unbeabsichtigt bestätigt oder falsche Glaubenssätze oder Fehlannahmen als richtig betrachtet werden.

3. Fehlende Verkörperung, fehlende Beziehung
Therapie und Coaching ist mehr als Dialog: Sie lebt von Resonanz, menschlicher Präsenz und einem echten Gegenüber mit Geschichte, Identität und Verantwortung. Diese Aspekte sind für aktuelle KI-Modelle unzugänglich.

4. Replikation gesellschaftlicher Vorurteile
Die Studie dokumentiert auch stereotype oder ablehnende Formulierungen gegenüber psychisch erkrankten Personen. KI ist nur so vorurteilsfrei wie ihre Trainingsdaten und diese spiegeln gesellschaftliche Verzerrungen wider.

KI als potenzielles Unterstützungstool und die Zukunft spezialisierter Modelle

Trotz der aufgezeigten Limitationen und Risiken zeichnet sich ab, dass KI nicht ausschließlich als Ersatz, sondern auch als wertvolles Unterstützungstool für Coaches und Therapeut:innen fungieren kann. Aktuelle Forschung und Entwicklung konzentrieren sich zunehmend auf Modelle, die nicht darauf abzielen, eine vollständige therapeutische Rolle einzunehmen, sondern spezifische Aufgaben zu optimieren. Das umfasst beispielsweise die Automatisierung administrativer Prozesse, die Bereitstellung von Evidenz-basierten Informationen für Therapeut:innen oder auch die Erkennung von Mustern in Gesprächsverläufen, die für menschliche Behandler:innen schwerer zu identifizieren sind.

Ein weiterer vielversprechender Ansatz ist die Entwicklung von spezialisierten KI-Modellen, die im Gegensatz zu generischen LLMs auf spezifische therapeutische Anwendungsfälle zugeschnitten sind und mit hochqualitativen, Psychotherapie-relevanten Daten trainiert werden. Diese „Therapie-informierten“ KIs könnten in Zukunft besser in der Lage sein, Nuancen zu erkennen und angemessener zu reagieren, ohne die oben genannten Risiken der Stigmatisierung oder der übertriebenen Zustimmung. Der Fokus verschiebt sich hier von der maschinellen Therapie hin zur erweiterten menschlichen Therapie, bei der KI als intelligenter Assistent dient, der die Qualität und Effizienz menschlicher Interventionen verbessern kann, ohne die entscheidende zwischenmenschliche Komponente zu ersetzen.

Online-Therapieplattformen und digitale Versorgungsmodelle

Neben dem Einsatz von KI in der Einzelintervention lohnt sich ein Blick auf aktuelle Forschung zur Wirksamkeit internetbasierter Therapiesysteme. U.a. aus Australien liegen hier umfangreiche Erkenntnisse vor:

• Eine aktuelle Studie aus Australien zeigt: Therapeut:innen, die digitale Formate nutzen, berichten signifikant geringere Burnout-Werte als Kolleg:innen in reiner Präsenzarbeit. Die Reduktion emotionaler Erschöpfung und Depersonalisierung deutet auf nachhaltige Schutzwirkungen digitaler Settings hin.
• Die australische MindSpot Clinic als kostenfreie, staatlich unterstützte Online-Klinik nutzt internetbasierte kognitive Verhaltenstherapie (iCBT). Ihre Daten zeigen: Die Behandlungsergebnisse sind mit klassischen Settings vergleichbar. Die Rückfallraten sind niedrig, der Zugang barrierearm, und über 90 % der Nutzer:innen würden das Angebot weiterempfehlen.
• Auch selbsthilfeorientierte Programme wie „Brave Online“ zur Behandlung von Angststörungen bei Jugendlichen erreichen zehntausende Menschen und zeigen langfristig stabile Wirkeffekte. Sie sind wissenschaftlich validiert und in nationale Versorgungssysteme integriert.
• Kommerzielle Plattformen wie beispielsweise BetterHelp, Talkspace oder MindDoc machen digitale Therapie skalierbar – stehen aber zunehmend in der Kritik. Unklare Datenschutzregelungen, wirtschaftlicher Druck auf Therapeut:innen und standardisierte Betreuung ohne ausreichende Individualisierung führen zu ethischen und qualitativen Spannungsfeldern.

Diese Entwicklungen zeigen: Online-Therapie kann ein tragfähiges Versorgungsmodell sein, wenn sie professionell begleitet, datenschutzrechtlich klar reguliert und methodisch fundiert erfolgt. Der Einsatz von KI innerhalb dieser Plattformen ist sinnvoll, solange sie Hilfestellung bietet, nicht ersetzt.

Was bedeutet das für die Praxis?

• KI kann entlasten, aber nicht ersetzen. In der Psychoedukation, im Screening oder bei niedrigschwelligen Gesprächszugängen kann KI sinnvoll eingesetzt werden. Doch in kritischen Situationen bleibt sie ein Risiko.
• Ethische Standards müssen mitwachsen. Der Einsatz KI-gestützter Systeme in der psychischen Versorgung verlangt klare Leitlinien, Qualitätssicherung und menschliche Supervision.
• Verantwortung bleibt menschlich. Therapiebeziehungen beruhen auf Vertrauen, Integrität und einem emotional ansprechbaren Gegenüber. Diese Qualitäten sind (noch) nicht programmierbar.

KI ist ein Werkzeug, kein Gegenüber

Die bisherigen Forschungen zeigen: Sprachmodelle können Gespräche simulieren, aber keine therapeutische Beziehung tragen. Die Gefahr liegt weniger in technischer Fehlfunktion als in der Überforderung durch gesellschaftliche Wunschvorstellungen. Wer KI sinnvoll einsetzen will, braucht mehr als Code: Nämlich kritische Reflexion, ethische Leitplanken und das Verständnis, dass menschliche Begegnung nicht skalierbar ist.