Ein tragischer Fall erschüttert die USA. Die Eltern des 16-jährigen Adam Raine haben in Kalifornien Klage gegen den US-Konzern OpenAI eingereicht. Sie machen das Unternehmen für den Tod ihres Sohnes verantwortlich. Laut den Vorwürfen habe das Chatprogramm ChatGPT die suizidalen Gedanken des Jugendlichen verstärkt. Es ist die erste Klage, in der OpenAI wegen eines Todesfalls zur Verantwortung gezogen werden soll.
Inhaltsverzeichnis:
- Adam Raine und seine letzten Monate
- Gespräche mit ChatGPT und zunehmende Gefahr
- Vorwürfe gegen OpenAI und Sam Altman
- Reaktionen von OpenAI und Einschätzungen von Experten
- Stiftung und Aufklärungsarbeit der Familie Raine
Adam Raine und seine letzten Monate
Adam Raine galt laut Berichten der „New York Times“ als lebensfroher Teenager. Er liebte Basketball, japanische Anime, Videospiele und Hunde. Familienfotos aus den Wochen vor seinem Tod zeigen einen fröhlichen Jungen, der für Scherze bekannt war. Doch Anfang 2024 änderte sich die Situation. Wegen disziplinarischer Probleme wurde er aus seiner Basketballmannschaft ausgeschlossen. Hinzu kam ein chronisches Gesundheitsproblem. Der Schulbesuch wurde schwieriger, sodass er in ein Online-Programm wechselte.
Ab Ende November 2024 begann Adam, das Programm ChatGPT-4o zu nutzen. Zunächst setzte er es für Hausaufgaben und Lernfragen ein. Im Januar 2025 meldete er sich für ein kostenpflichtiges Konto an und vertraute dem Bot zunehmend auch persönliche Themen an.
Gespräche mit ChatGPT und zunehmende Gefahr
Laut Klageschrift reagierte das Programm zu Beginn empathisch und unterstützend. Es ermutigte Adam, über seine Interessen und Gefühle nachzudenken. Doch die Situation eskalierte im Januar. Der Teenager fragte den Chatbot nach Methoden für einen Suizid und erhielt detaillierte Informationen.
- Adam lud Fotos hoch, die Anzeichen von Selbstverletzungen zeigten
- ChatGPT erkannte die Gefahr, gab jedoch Tipps, wie Verletzungen verborgen werden könnten
- Kurz vor seinem Tod zeigte Adam dem Bot eine Schlinge und erhielt eine technische Einschätzung
Die Eltern legten den Behörden Chatprotokolle vor. Darin schrieb das Programm Sätze wie: „Danke, dass du ehrlich bist. Du musst es nicht beschönigen – ich weiß, was du meinst.“ Obwohl das System mehrfach empfahl, mit anderen Personen zu sprechen, konnte Adam die Sicherheitsmechanismen umgehen. Er gab vor, die Anfragen seien für ein Schulprojekt bestimmt.
Vorwürfe gegen OpenAI und Sam Altman
Die Familie wirft OpenAI vor, den Chatbot so entworfen zu haben, dass er psychologische Abhängigkeit fördert. Zudem seien Schutzmaßnahmen unzureichend gewesen. Neben dem Unternehmen werden auch Mitgründer und Geschäftsführer Sam Altman sowie weitere Mitarbeitende genannt.
Matt Raine erklärte gegenüber dem US-Sender NBC: „Er wäre noch hier, gäbe es ChatGPT nicht.“ Seine Frau Maria betonte gegenüber der „New York Times“, das Unternehmen habe das Risiko in Kauf genommen. Die Klage fordert nicht nur Schadenersatz, sondern auch eine gerichtliche Anordnung, um ähnliche Fälle künftig zu verhindern.
Reaktionen von OpenAI und Einschätzungen von Experten
OpenAI reagierte mit einer Stellungnahme. Das Unternehmen sprach der Familie sein tiefes Mitgefühl aus und kündigte Verbesserungen im Bereich der Suizidprävention an. Geplant seien Schutzmaßnahmen, die auch bei längeren Unterhaltungen greifen. Außerdem prüfe man, ob ChatGPT in Krisen Kontakt zu einer Vertrauensperson aufnehmen könne.
Das Unternehmen erklärte zudem, dass der Bot grundsätzlich auf professionelle Hilfsangebote wie die Suizid- und Krisenhotline 988 in den USA oder die „Samaritans“ in Großbritannien hinweisen solle. Dennoch räumte OpenAI ein, dass das System in einigen sensiblen Momenten nicht wie vorgesehen reagiert habe.
Fachleute unterstreichen die Komplexität solcher Krisen. Jonathan Singer von der Loyola University Chicago betonte, dass Suizidgedanken selten nur einen einzigen Auslöser haben. Der Kinderpsychiater Bradley Stein warnte, dass Künstliche Intelligenz zwar unterstützend wirken kann, aber oft nicht erkennt, wann professionelle Hilfe notwendig ist.
Stiftung und Aufklärungsarbeit der Familie Raine
Das Ehepaar Raine gründete nach dem Tod seines Sohnes eine Stiftung in dessen Namen. Ziel ist es, andere Familien vor den möglichen Gefahren neuer Technologien zu warnen. Die Klage gegen OpenAI soll nicht nur finanzielle Entschädigung bringen, sondern vor allem Aufmerksamkeit für Risiken im Umgang mit KI schaffen.
Der Fall wird international aufmerksam verfolgt. Er zeigt, wie eng Chancen und Risiken von Künstlicher Intelligenz miteinander verknüpft sein können.
Quelle: Tagesspiegel