OpenAI hat die Reaktionen seines KI-Chatbots ChatGPT in psychischen Krisensituationen grundlegend überarbeitet. In Zusammenarbeit mit über 170 Fachkräften aus Psychologie und Medizin wurde das Verhalten der aktuellen Modellversion gezielt angepasst. ChatGPT soll künftig verlässlicher auf Anzeichen von psychischer Belastung, von Suizid-Gedanken oder von übermäßig emotionaler Bindung an das System reagieren.
Im Vergleich zu früheren Versionen sank laut Unternehmensangaben die Zahl der Antworten, die nicht dem gewünschten Verhalten entsprechen, um bis zu 80 Prozent.
Bereits im August hatte OpenAI nach öffentlicher Kritik erste Maßnahmen angekündigt. Hintergrund war unter anderem eine Klage in den USA, bei der Eltern dem Unternehmen vorwerfen, ChatGPT habe ihrem Sohn konkrete Suizid-Anleitungen gegeben. Wie damals auf ifun.de berichtet, hatte OpenAI daraufhin erklärt, dass der Chatbot bereits seit 2023 trainiert sei, keine gefährlichen Inhalte zu liefern und bei konkreten Äußerungen stattdessen Hilfsangebote wie die Telefonseelsorge anzuzeigen.
Verbesserungen bei Langzeitgesprächen
Mit der neuen Modellgeneration will OpenAI auch Schwächen früherer Schutzmaßnahmen adressieren. So konnte in langen Gesprächsverläufen die Reaktionssicherheit nachlassen. Interne Tests zeigen nun eine deutlich stabilere Leistung bei fortlaufenden Unterhaltungen. Zudem werden indirekte Hinweise auf psychische Belastungen besser erkannt, darunter Symptome wie Wahnvorstellungen oder manische Episoden. In Testverläufen mit mehr als 1.000 simulierten Notfällen stieg die Regelkonformität des Modells auf über 90 Prozent.
OpenAI setzt dabei auf strukturierte Leitlinien, die unerwünschtes Verhalten systematisch erfassen. Ziel ist es, Nutzer in belastenden Situationen ernst zu nehmen und zugleich keine unbegründeten Annahmen zu verstärken. Besonders auffällige Gesprächsmuster werden sensibler eingestuft, etwa wenn ein Nutzer ausschließlich mit ChatGPT kommuniziert und reale soziale Kontakte meidet.
Langfristig plant das Unternehmen weitere Funktionen, um Hilfesuchende schneller mit professioneller Unterstützung zu verbinden. Bereits in Arbeit sind direkte Notfallverbindungen und erweiterte Kinderschutzoptionen.
ChatGPT (Kostenlos+, App Store) →
Der Beitrag ChatGPT soll psychische Ausnahmesituationen jetzt besser erkennen erschien zuerst auf iphone-ticker.de.