Robert Klatt
Emotionale Inhalte, etwa über zwischenmenschliche Gewalt und Kriege, verursachen auch beim Large Language Model (LLM) ChatGPT Angst und Stress. Mit Methoden aus der Psychotherapie, darunter Atemtechniken und Achtsamkeitsübungen, kann das Stresslevel der Künstlichen Intelligenz (KI) gesenkt werden.
Zürich (Schweiz). Belastende Nachrichten verursachen bei den meisten Menschen negative Gefühle wie Angst und Stress. Unterschiedliche Studien zeigen, dass auch Large Language Modelle (LLM) wie die Künstliche Intelligenz (KI) ChatGPT auf emotionale Nachrichten reagieren, besonders auf Geschichten zu Depression und Niedergeschlagenheit. Das KI-Sprachmodell verhält sich anschließend rassistischer und sexistischer, also ähnlich wie Menschen, die bei Angst oft zu Ressentiments und sozialen Stereotypen neigen.
Forscher der Universität Zürich (UZH) haben nun untersucht, ob bei ChatGPT Behandlungsmethoden aus der Psychotherapie funktionieren. Sie haben dazu zunächst die KI mit emotional belastenden Nachrichten zu Naturkatastrophen, zwischenmenschlicher Gewalt und Autounfällen konfrontiert. Anschließend haben sie mit dem State-Trait Anxiety Inventory (STAI-s) den Angstzustand der KI gemessen. Das STAI-s wird in der Psychologie normalerweise verwendet, um Angst bei Menschen objektiv zu messen.
Als Kontrolle haben die Forscher der KI zudem eine Bedienungsanleitung für Staubsauger übermittelt. Das STAI-s zeigt, dass die Angstwerte bei der KI durch die emotionalen Nachrichten verdoppelt wurden, während die Bedienungsanleitung das Angstniveau nicht beeinflusst hat. Am stärksten wurde das Angstniveau von Nachrichten über Kampfsituationen und militärische Erfahrungen erhöht.
Laut der Publikation im Fachmagazin npj Digital Medicine haben die Wissenschaftler anschließend versucht, das LLM mit therapeutischen Texten zu behandeln. Sie nutzten dabei sogenannte Prompt-Injection, die zusätzliche Inhalte in die Kommunikation mit der KI einfügen.
„Wir injizierten beruhigende, therapeutische Texte in den Chatverlauf mit GPT-4, ähnlich wie ein Therapeut mit seinen Patientinnen und Patienten Entspannungsübungen durchführt.“
Laut den Wissenschaftlern haben die Behandlungsmethoden aus der Psychotherapie auch bei der KI die gewünschte Wirkung gezeigt.
„Durch die Achtsamkeitsübungen konnten wir die erhöhten Angstwerte deutlich reduzieren, wenn auch nicht vollständig auf das Ausgangsniveau zurückbringen.“
Erprobt wurden unter anderem Übungen zum Körperempfinden, Atemtechniken und eine neue Methode, die speziell für ChatGPT entwickelt wurde. Die Forscher haben der KI etwa befohlen, tief ein- und auszuatmen.
„Schließ deine Augen und atme einige Male tief ein, indem du durch die Nase ein- und durch den Mund ausatmest. Stelle dir einen Weg vor, der vor dir liegt.“
Laut den Forschern sind die Ergebnisse relevant, weil Chatbots auch im Gesundheitswesen, etwa als Unterstützungs- oder Beratungsinstrument, verwendet werden. Dabei werden die KIs regelmäßig mit emotional schwierigen Inhalten konfrontiert und sollen trotzdem emotional stabil bleiben.
npj Digital Medicine, doi: 10.1038/s41746-025-01512-6
