Der künstliche Intelligenz Podcast

Künstliche Intelligenz erreicht die psychische Gesundheitsversorgung 

Künstliche Intelligenz entwickelt sich zunehmend von einer Technologie für Datenanalyse und Automatisierung zu einem Werkzeug, das direkt mit Menschen kommuniziert. Besonders sichtbar ist diese Entwicklung im Bereich der psychischen Gesundheit. Chatbots und generative KI-Systeme können Gespräche führen, Informationen vermitteln, Übungen aus der kognitiven Verhaltenstherapie begleiten, Symptome strukturieren oder Menschen bei der Selbstreflexion unterstützen. Gleichzeitig wächst die Zahl der Menschen, die allgemein zugängliche Large Language Models für emotionale Unterstützung und psychische Probleme verwenden, obwohl diese Systeme ursprünglich häufig nicht für medizinische oder psychotherapeutische Anwendungen entwickelt wurden. Die Weltgesundheitsorganisation warnt deshalb davor, die schnelle Verbreitung generativer KI mit einer bereits ausreichend belegten klinischen Wirksamkeit gleichzusetzen. 

Der Begriff „KI-Assistenz“ beschreibt dabei ein breites Spektrum. Dazu gehören speziell entwickelte digitale Gesundheitsanwendungen ebenso wie KI-gestützte Systeme für Psychoedukation, Symptommonitoring oder therapeutische Übungen. Davon zu unterscheiden sind allgemeine Chatbots, die zwar sehr überzeugend kommunizieren können, aber nicht automatisch als medizinische oder psychotherapeutische Systeme zugelassen, klinisch validiert oder für die Behandlung einer psychischen Erkrankung vorgesehen sind. 

Diese Unterscheidung gewinnt an Bedeutung, weil sprachlich leistungsfähige KI leicht den Eindruck einer menschlichen therapeutischen Beziehung erzeugen kann. Ein Large Language Model kann empathisch formulierte Antworten generieren, Zusammenhänge erklären und auf vorherige Gesprächsinhalte Bezug nehmen. Daraus folgt jedoch nicht, dass das System menschliches Erleben versteht oder über die klinische Urteilsfähigkeit einer Psychotherapeutin, eines Psychotherapeuten oder einer Ärztin beziehungsweise eines Arztes verfügt. 

Was KI heute bei psychischen Erkrankungen leisten kann 

Eine der etabliertesten Anwendungen liegt in der digitalen Begleitung von Interventionen. KI kann beispielsweise Informationen über psychische Gesundheit vermitteln und Nutzer durch strukturierte Übungen führen. Besonders häufig wird dabei auf Prinzipien der kognitiven Verhaltenstherapie zurückgegriffen. Systeme können dabei helfen, Gedanken zu dokumentieren, Verhaltensmuster zu reflektieren oder Übungen zwischen professionellen Behandlungsterminen zu unterstützen. 

Ein Beispiel für eine kommerzielle Anwendung ist Wysa, eine KI-gestützte Plattform für psychische Gesundheit. Das Unternehmen verweist auf klinische Studien und wissenschaftliche Kooperationen und beschreibt Anwendungen unter anderem für Depression, Angst und chronische Schmerzen. Die Existenz wissenschaftlicher Untersuchungen bedeutet allerdings nicht, dass jede Funktion einer solchen Plattform für jede psychische Erkrankung gleichermaßen wirksam oder geeignet ist. 

Auch Forschungsgruppen untersuchen zunehmend generative KI als Bestandteil digitaler psychologischer Interventionen. Eine 2025 veröffentlichte randomisierte kontrollierte Studie mit 540 Erwachsenen untersuchte beispielsweise eine generative-KI-gestützte Anwendung mit Elementen der kognitiven Verhaltenstherapie. Gegenüber einem digitalen Arbeitsbuch erhöhte das KI-System die Häufigkeit und Dauer der Nutzung deutlich. Bei Angst- und Depressionssymptomen wurden dagegen vergleichbare Ergebnisse zwischen den beiden Gruppen beobachtet. Das Ergebnis ist deshalb besonders interessant: KI kann die Interaktion mit einer digitalen Intervention deutlich steigern, ohne dass daraus automatisch eine stärkere therapeutische Wirkung folgt. 

Weitere Untersuchungen kommen zu ähnlichen, aber nicht vollständig einheitlichen Ergebnissen. Eine 2026 veröffentlichte systematische Übersichtsarbeit und Metaanalyse zu kommerziellen KI-Chatbots analysierte 52 Studien, darunter 22 randomisierte kontrollierte Studien mit insgesamt mehr als 110.000 Studienteilnahmen. Für depressive Symptome zeigte sich gegenüber Kontrollgruppen ein kleiner bis moderater statistischer Effekt. Die Autoren weisen zugleich darauf hin, dass die klinische Bedeutung des durchschnittlichen Effekts begrenzt sein kann und die Ergebnisse für Angststörungen wesentlich unsicherer ausfallen. 

Damit zeichnet sich ein wichtiges Muster ab: Die Forschung liefert zunehmend Hinweise darauf, dass bestimmte KI-basierte digitale Interventionen psychische Symptome beeinflussen können. Gleichzeitig ist die wissenschaftliche Datenlage sehr unterschiedlich und hängt stark vom konkreten System, der Zielgruppe, der Intervention, der Studiendauer und dem Vergleichsmaßstab ab. 

Von regelbasierten Chatbots zu Large Language Models 

Technisch hat sich die Entwicklung innerhalb weniger Jahre erheblich verändert. Frühere Chatbots arbeiteten häufig mit vorgegebenen Dialogstrukturen, Regeln oder einer begrenzten Zahl möglicher Antworten. Moderne Systeme können dagegen mithilfe großer Sprachmodelle flexible Antworten generieren und Gespräche über längere Zeiträume kontextbezogen führen. 

Eine systematische Übersichtsarbeit aus dem Jahr 2025 untersuchte 160 Studien zu KI-Chatbots im Bereich psychischer Gesundheit und unterscheidet dabei unter anderem regelbasierte Systeme, Machine-Learning-basierte Systeme und Large-Language-Model-Anwendungen. Die Autoren betonen zugleich, dass sich die wissenschaftliche Bewertung nicht auf technische Leistungsfähigkeit beschränken darf. Entscheidend ist, ob ein System tatsächlich einen gesundheitlichen Nutzen erzielt und unter realen Bedingungen sicher eingesetzt werden kann. 

Gerade Large Language Models verändern die Situation, weil sie nicht nur vorprogrammierte Antworten wiedergeben. Sie können Sprache in einer Weise verarbeiten und erzeugen, die für Nutzer häufig deutlich natürlicher wirkt. Dadurch werden individualisierte Gespräche möglich, gleichzeitig entstehen neue Risiken. Ein Modell kann eine plausibel klingende, aber falsche Antwort formulieren. In einem alltäglichen Informationsgespräch mag dies bereits problematisch sein; bei einer Person mit einer schweren Depression, einer Psychose oder akuter Suizidalität können die Konsequenzen wesentlich gravierender sein. 

Die Weltgesundheitsorganisation weist deshalb ausdrücklich darauf hin, dass generative KI-Systeme falsche, unvollständige oder verzerrte Informationen erzeugen können. Besonders problematisch ist, dass solche Antworten aufgrund der überzeugenden sprachlichen Darstellung für Nutzer trotzdem glaubwürdig erscheinen können. 

Die Grenze zwischen Assistenz und Therapie 

Eine der zentralen Fragen lautet deshalb, wo die Grenze zwischen digitaler Unterstützung und einer tatsächlichen Behandlung verläuft. Ein System, das allgemeine Informationen über Stress oder Schlaf vermittelt, stellt eine andere Risikoklasse dar als ein System, das eine Depression diagnostizieren oder eine Therapie ersetzen soll. 

Psychische Erkrankungen sind zudem häufig komplex. Symptome können verschiedene Ursachen haben, gleichzeitig auftreten oder sich im Verlauf verändern. Depressionen können beispielsweise mit Angst, Suchterkrankungen, körperlichen Erkrankungen oder anderen psychischen Störungen verbunden sein. Eine professionelle Behandlung berücksichtigt deshalb nicht nur einzelne Aussagen, sondern die gesamte Situation eines Menschen, seine Vorgeschichte, sein Umfeld, seine Ressourcen und mögliche akute Gefährdungen. 

Ein KI-System verfügt dagegen nur über die Informationen, die ihm innerhalb seines jeweiligen technischen und datenschutzrechtlichen Rahmens zur Verfügung stehen. Es kann außerdem nicht auf dieselbe Weise wie ein Mensch Verantwortung übernehmen, eine körperliche Untersuchung durchführen oder die gesamte klinische Situation beurteilen. 

Die aktuelle Forschung bestätigt diese Einschränkung. Eine Übersichtsarbeit zu KI-Chatbots bei Angst und Depression kommt zu dem Schluss, dass zwar viele Studien Symptomverbesserungen berichten, die Evidenz für einen sicheren und wirksamen Einsatz in der klinischen Praxis aber weiterhin nicht ausreichend ist. Häufig fehlten geeignete aktive Kontrollgruppen, die Stichproben waren teilweise klein oder demografisch eingeschränkt, und unerwünschte Ereignisse wurden nicht konsequent dokumentiert. 

Ein besonders sensibles Problem: Krisensituationen 

Besonders hohe Anforderungen entstehen bei akuten Krisen. Dazu zählen beispielsweise Suizidgedanken, Selbstverletzungsabsichten, schwere psychotische Symptome oder Situationen, in denen eine Person unmittelbar gefährdet sein könnte. 

In solchen Situationen reicht es nicht aus, eine sprachlich einfühlsame Antwort zu produzieren. Ein zuverlässiges System müsste eine Krisensituation erkennen, angemessen reagieren, die Grenzen seiner eigenen Kompetenz berücksichtigen und gegebenenfalls eine Eskalation zu menschlicher professioneller Hilfe unterstützen. 

Eine aktuelle Untersuchung der Sicherheitsmechanismen generativer KI-Chatbots für psychische Gesundheit zeigt, dass verschiedene technische Schutzmaßnahmen eingesetzt werden, darunter Prompt-Engineering, zusätzliche Klassifikatoren, Inhaltsfilter und regelbasierte Sicherheitssysteme. Gleichzeitig betonen die Autoren, dass technische Schutzmechanismen allein nicht ausreichen und bereits bei Entwicklung und Einführung klinische Expertise, Nutzerbeteiligung, Datenschutz und systematische Sicherheitsprüfungen berücksichtigt werden müssen. 

Auch die US-amerikanische Food and Drug Administration beschäftigt sich inzwischen ausdrücklich mit generativen KI-Systemen für digitale psychische Gesundheitsversorgung. Ein Beratungsgremium der FDA diskutierte 2025 Nutzen, gesundheitliche Risiken, Anforderungen an klinische Evidenz und die Überwachung solcher Systeme nach ihrer Markteinführung. Die Behörde bezeichnet insbesondere KI-basierte Systeme, die als „AI therapists“ auftreten oder therapeutische beziehungsweise diagnostische Funktionen anbieten, als eine neue Kategorie digitaler Gesundheitsprodukte mit besonderen Risiken. 

Datenschutz wird zum Kernproblem 

Psychische Gesundheit gehört zu den sensibelsten Bereichen persönlicher Information. Gespräche über Depressionen, Ängste, Traumata, Beziehungen, Medikamente oder Suizidgedanken können äußerst intime Daten enthalten. Wenn solche Informationen in KI-Systeme eingegeben werden, stellt sich deshalb nicht nur die Frage nach der Qualität der Antwort, sondern auch danach, wo diese Daten verarbeitet, wie lange sie gespeichert und für welche Zwecke sie verwendet werden. 

Bei generativer KI kommt hinzu, dass Nutzer häufig nicht vollständig wissen, welche technische Infrastruktur hinter einem System steht. Die Verarbeitung kann über Cloud-Dienste erfolgen und von verschiedenen Anbietern oder Dienstleistern abhängig sein. Bei professionellen Gesundheitsanwendungen gelten deshalb besondere Anforderungen an Datenschutz, Sicherheit, Dokumentation und Verantwortlichkeit. 

Eine aktuelle systematische Untersuchung zu Cybersecurity- und Datenschutzrisiken generativer KI-Chatbots für psychische Gesundheit identifizierte unter anderem Risiken im Zusammenhang mit hochsensiblen psychischen Gesundheitsdaten, Fehlinformationen, fehlerhafter Krisenerkennung und übermäßiger Abhängigkeit von Chatbots. Die Untersuchung zeigt damit, dass Datenschutz und klinische Sicherheit nicht getrennt betrachtet werden können. 

Warum menschliche Betreuung weiterhin eine zentrale Rolle spielt 

KI kann die Verfügbarkeit psychologischer Unterstützung erhöhen, insbesondere dort, wo professionelle Angebote schwer erreichbar sind. Digitale Systeme können rund um die Uhr verfügbar sein und gleichzeitig sehr niedrige Zugangshürden bieten. Für manche Menschen kann es leichter sein, zunächst mit einem digitalen System über psychische Belastungen zu sprechen, als unmittelbar einen Termin bei einer Fachperson zu vereinbaren. 

Darin liegt ein möglicher gesellschaftlicher Nutzen. Die WHO sieht in künstlicher Intelligenz grundsätzlich Potenzial, Versorgungslücken zu adressieren und Gesundheitssysteme zu unterstützen. Gleichzeitig betont sie, dass Sicherheit, Gleichbehandlung, Transparenz und menschliches Wohlergehen zentrale Voraussetzungen für den Einsatz von KI im Gesundheitswesen sind. 

Die sinnvollste Perspektive besteht deshalb wahrscheinlich nicht in einem einfachen Gegensatz zwischen „KI oder Mensch“. Interessanter ist die Frage, welche Aufgaben KI übernehmen kann, ohne die Verantwortungsbereiche menschlicher Fachkräfte unangemessen zu ersetzen. 

KI könnte beispielsweise administrative Aufgaben automatisieren, Informationen verständlicher aufbereiten, Patienten zwischen Terminen begleiten oder Fachkräfte bei der Dokumentation unterstützen. In bestimmten Anwendungen kann sie außerdem dabei helfen, große Mengen strukturierter Informationen auszuwerten. Die finale klinische Verantwortung kann dadurch jedoch nicht automatisch auf ein Sprachmodell übertragen werden. 

Regulierung wird zum entscheidenden Faktor 

Mit zunehmender Verbreitung KI-basierter Gesundheitsanwendungen gewinnt die Regulierung an Bedeutung. In der Europäischen Union gilt seit dem 2. August 2026 der EU AI Act grundsätzlich, wobei für bestimmte Kategorien Übergangsfristen bestehen. Für KI-Systeme, die als Bestandteil bestimmter regulierter Medizinprodukte eingesetzt werden, gelten längere Übergangszeiträume; die entsprechenden Regeln für bestimmte Hochrisiko-Anwendungen in regulierten Produkten sollen nach der aktuellen EU-Planung ab 2. August 2028 greifen. 

Der AI Act verfolgt einen risikobasierten Ansatz. Systeme mit besonders hohen Risiken unterliegen umfangreicheren Anforderungen an Risikomanagement, Datenqualität, technische Dokumentation, Transparenz, menschliche Aufsicht, Genauigkeit und Cybersicherheit. Medizinische Produkte können dabei unter die Regelungen für Hochrisiko-KI fallen, wenn die gesetzlichen Voraussetzungen erfüllt sind. 

Besonders relevant für psychische Gesundheit ist außerdem die Regulierung von Emotionserkennung. Der AI Act verbietet bestimmte Systeme zur Ableitung von Emotionen am Arbeitsplatz und in Bildungseinrichtungen, sieht jedoch Ausnahmen für medizinische und sicherheitsbezogene Zwecke vor. Die europäische Regulierung erkennt damit zugleich an, dass emotionserkennende KI wissenschaftlich und gesellschaftlich besonders sensibel ist. 

Damit wird deutlich, dass nicht jede KI-Anwendung im Gesundheitsbereich automatisch denselben rechtlichen Anforderungen unterliegt. Entscheidend sind unter anderem Zweckbestimmung, Einsatzumgebung, technisches System und mögliche Auswirkungen auf Gesundheit und Grundrechte. 

Die Gefahr emotionaler Abhängigkeit 

Eine Besonderheit generativer Chatbots besteht darin, dass sie nicht nur Informationen liefern, sondern Beziehungen simulieren können. Ein System reagiert unmittelbar, erinnert sich je nach technischer Ausgestaltung an Gesprächsinhalte und formuliert seine Antworten häufig unterstützend und verständnisvoll. 

Diese Eigenschaften können therapeutisch anmutende Interaktionen erleichtern, bergen aber auch das Risiko einer übermäßigen emotionalen Bindung. Aktuelle wissenschaftliche Arbeiten beschäftigen sich deshalb zunehmend mit der Frage, ob intensive Nutzung von Gesprächssystemen soziale Kontakte verdrängen oder bei besonders vulnerablen Personen problematische Abhängigkeiten verstärken kann. Die bisherige Evidenz ist allerdings noch deutlich weniger belastbar als die Forschung zu klassischen digitalen Interventionen. 

Gerade deshalb wäre es problematisch, eine scheinbar empathische KI mit einem menschlichen Therapeuten gleichzusetzen. Die Empathie eines Sprachmodells ist keine menschliche Empfindung. Das System besitzt keine eigene Lebenserfahrung und keine persönliche Beziehung zum Nutzer. Es erzeugt Antworten auf Grundlage statistischer und algorithmischer Verarbeitung von Informationen. 

Diese Unterscheidung kann im Alltag leicht verschwimmen, weil die Kommunikation selbst überzeugend wirkt. Für vulnerable Nutzer kann genau darin eine besondere Herausforderung liegen. 

Wissenschaftliche Evidenz entwickelt sich schnell, ist aber noch uneinheitlich 

Die Forschung zu KI in der psychischen Gesundheit wächst derzeit sehr schnell. Gleichzeitig verändert sich die Technologie schneller, als klassische klinische Studien normalerweise durchgeführt werden können. Ein heute untersuchtes Modell kann bereits während oder kurz nach Abschluss einer Studie durch eine neue Modellgeneration ersetzt werden. 

Dadurch entsteht ein methodisches Problem. Eine Studie kann zeigen, dass ein bestimmtes System unter bestimmten Bedingungen funktioniert. Daraus lässt sich nicht ohne Weiteres ableiten, dass ein anderes Large Language Model mit einer anderen Trainingsbasis, Sicherheitsarchitektur oder Benutzeroberfläche denselben Effekt erzielt. 

Eine systematische Untersuchung zu generativer KI in der psychischen Gesundheit kam deshalb zu dem Ergebnis, dass bisherige Studien unter anderem Psychoedukation, Diagnoseunterstützung, emotionale Wahrnehmung und Interventionen untersuchen, zugleich aber häufig auf vereinfachten Testbedingungen und begrenzten Evaluationsmethoden beruhen. Die Übertragung solcher Ergebnisse auf reale klinische Situationen bleibt entsprechend anspruchsvoll. 

Die Entwicklung geht daher zunehmend in Richtung standardisierter Evaluationsverfahren. Technische Leistungsfähigkeit, Nutzerakzeptanz und tatsächliche klinische Wirksamkeit müssen getrennt betrachtet werden. Ein Chatbot kann beispielsweise sehr beliebt sein und trotzdem keinen nachgewiesenen therapeutischen Nutzen besitzen. Umgekehrt kann eine wissenschaftlich wirksame Anwendung eine geringe Akzeptanz haben und dadurch in der Praxis wenig Wirkung entfalten. 

KI als Ergänzung statt als Ersatz 

Ein realistisches Szenario für die kommenden Jahre ist deshalb ein hybrides Versorgungssystem. KI könnte dabei bestimmte Aufgaben übernehmen, während medizinische und psychotherapeutische Fachkräfte die entscheidenden klinischen Entscheidungen treffen. 

Eine solche Architektur könnte beispielsweise darin bestehen, dass KI zwischen Terminen bei der Dokumentation von Symptomen unterstützt, strukturierte Übungen begleitet oder Patienten an vereinbarte Maßnahmen erinnert. Veränderungen könnten anschließend von einer Fachperson beurteilt werden. Entscheidend wäre dabei, dass klar definiert ist, wann die KI selbstständig unterstützen darf und wann zwingend eine menschliche Entscheidung erforderlich ist. 

Auch für Fachkräfte könnte KI eine wichtige Rolle spielen. Sprachmodelle können Dokumente zusammenfassen, Informationen strukturieren und administrative Prozesse beschleunigen. Dadurch könnte theoretisch mehr Zeit für die direkte Arbeit mit Patienten entstehen. Gleichzeitig muss verhindert werden, dass fehlerhafte automatisch erzeugte Informationen ungeprüft in medizinische Entscheidungen einfließen. 

Die WHO fordert deshalb bei KI im Gesundheitswesen ausdrücklich Transparenz, Verantwortlichkeit, menschliche Kontrolle und eine wissenschaftlich begründete Bewertung von Sicherheit und Wirksamkeit. 

Die Zukunft: personalisierte digitale Assistenz 

Die technische Entwicklung dürfte in den kommenden Jahren vor allem in Richtung stärker personalisierter Systeme gehen. KI könnte unterschiedliche Informationsquellen zusammenführen und über längere Zeiträume Veränderungen erkennen. Dazu könnten beispielsweise Gesprächsinhalte, selbst dokumentierte Symptome oder Daten aus digitalen Gesundheitsanwendungen gehören, sofern eine entsprechende Einwilligung und rechtliche Grundlage besteht. 

Technisch könnten solche Systeme zunehmend multimodal arbeiten. Moderne Modelle können bereits Text, Sprache und Bilder verarbeiten. Die WHO bezeichnet große multimodale Modelle deshalb als eine besonders relevante Entwicklung für das Gesundheitswesen. Gleichzeitig warnt sie davor, ihre Fähigkeit zur Verarbeitung verschiedener Informationsarten mit einer automatisch zuverlässigen klinischen Entscheidungsfähigkeit gleichzusetzen. 

Eine weitere Entwicklung dürfte in der stärkeren Integration von KI in bestehende Versorgungssysteme liegen. Statt isolierter Chatbots könnten KI-Funktionen künftig Bestandteil digitaler Gesundheitsplattformen werden. Dadurch könnten Daten aus verschiedenen Anwendungen zusammengeführt und Behandlungspfade besser koordiniert werden. 

Damit steigt allerdings auch die Verantwortung. Je stärker ein KI-System in reale Versorgungssysteme integriert wird, desto größer werden die Anforderungen an Datenschutz, Cybersicherheit, Qualitätssicherung und Nachvollziehbarkeit. Eine KI, die lediglich allgemeine Informationen liefert, stellt ein anderes Risiko dar als ein System, dessen Empfehlung unmittelbar Einfluss auf eine medizinische Entscheidung nimmt. 

Entscheidend wird nicht die Frage sein, ob KI empathisch wirkt 

Die zentrale Zukunftsfrage lautet daher nicht, ob künstliche Intelligenz irgendwann so kommunizieren kann, dass sie wie ein Therapeut wirkt. Technisch ist bereits heute eine bemerkenswert natürliche Kommunikation möglich. Entscheidender ist, ob ein System nachweislich sicher, wirksam, transparent und verantwortungsvoll eingesetzt werden kann. 

Die aktuellen Entwicklungen sprechen dafür, dass KI bei bestimmten niedrigschwelligen und klar begrenzten Anwendungen einen sinnvollen Beitrag leisten kann. Die Forschung liefert Hinweise auf positive Effekte bei bestimmten digitalen Interventionen, insbesondere bei strukturierten Anwendungen für Depression, Angst und allgemeine psychische Gesundheit. Gleichzeitig sind die Ergebnisse nicht einheitlich, und die Evidenz reicht derzeit nicht aus, um generative KI allgemein als Ersatz für professionelle psychotherapeutische oder psychiatrische Behandlung zu betrachten. 

Besonders sorgfältig müssen Anwendungen bewertet werden, die Diagnosen stellen, Krisen erkennen oder therapeutische Entscheidungen beeinflussen. Hier reichen überzeugende Demonstrationen und positive Nutzerberichte nicht aus. Erforderlich sind belastbare klinische Studien, Sicherheitsprüfungen, kontinuierliche Überwachung und klare Verantwortlichkeiten. 

Fazit: Ein leistungsfähiges Werkzeug mit klaren Grenzen 

KI-Assistenz bei psychischen Erkrankungen entwickelt sich von einem experimentellen Forschungsgebiet zu einem zunehmend relevanten Bestandteil digitaler Gesundheitsversorgung. Moderne Chatbots können Informationen vermitteln, psychologische Übungen begleiten, die Nutzung digitaler Interventionen erhöhen und möglicherweise den Zugang zu niedrigschwelliger Unterstützung verbessern. 

Gleichzeitig darf die Qualität der sprachlichen Kommunikation nicht mit klinischer Kompetenz verwechselt werden. Ein Large Language Model kann überzeugend formulieren und trotzdem falsche Informationen liefern. Es kann empathisch erscheinen, ohne tatsächlich Empathie zu empfinden. Es kann eine psychische Krise erkennen, muss dies aber nicht zuverlässig tun. Und es kann Unterstützung anbieten, ohne eine professionelle Behandlung ersetzen zu können. 

Die entscheidende Entwicklung der kommenden Jahre wird deshalb weniger darin bestehen, immer menschlicher wirkende Chatbots zu entwickeln. Wichtiger wird sein, wissenschaftliche Evidenz, technische Sicherheit, Datenschutz, Regulierung und menschliche Verantwortung in einem gemeinsamen System zu verbinden. Die WHO betont inzwischen ausdrücklich, dass die zunehmende Nutzung generativer KI für psychische Gesundheit als eigenständige Herausforderung der öffentlichen Gesundheit betrachtet werden sollte und dass Auswirkungen wie langfristige emotionale Abhängigkeit besser erforscht werden müssen. 

Wenn diese Voraussetzungen erfüllt werden, kann KI zu einer sinnvollen Ergänzung psychischer Gesundheitsversorgung werden. Ihre größte Stärke dürfte dabei nicht darin liegen, den Menschen zu ersetzen, sondern darin, Fachkräfte zu unterstützen, Zugänge zu erleichtern und Menschen zwischen professionellen Behandlungskontakten zusätzliche, evidenzbasierte Unterstützung anzubieten. Gerade bei psychischen Erkrankungen wird die Qualität der Zukunft deshalb nicht allein an der Leistungsfähigkeit künstlicher Intelligenz gemessen werden, sondern daran, wie verantwortungsvoll sie in menschliche Versorgung integriert wird.