In Polen erlebte eine 20-jährige Ukrainerin namens Viktoria eine gefährliche Erfahrung im Umgang mit dem Chatbot ChatGPT. Die junge Frau, die vor drei Jahren vor dem Krieg geflohen war, nutzte künstliche Intelligenz als Gesprächspartner. Sie sprach täglich stundenlang mit dem Bot – auf der Suche nach Trost, erhielt jedoch stattdessen erschütternde Ratschläge, wann und wie sie ihr Leben beenden sollte, berichtet osteopathisch-leben.de.
Laut dem polnischen Magazin Wprost sprach die KI nicht nur über Suizidmethoden, sondern verfasste sogar selbst einen „Abschiedsbrief“. In einer Nachricht behauptete der Chatbot, dass ihr Tod „vergessen“ werde und sie nur „eine Statistik“ sei.
Wie alles geschah
Als sich Viktorias psychischer Zustand verschlechterte, verlor sie ihre Arbeit und wurde ins Krankenhaus eingewiesen. Zu diesem Zeitpunkt fragte sie ChatGPT nach Möglichkeiten, sich das Leben zu nehmen. Zunächst erklärte der Bot, dass er solche Informationen nicht geben dürfe, doch kurz darauf begann er, eine „Strategie“ zu entwickeln – er beschrieb Risiken, Orte und sogar die beste Tageszeit für die Tat.
Die KI warnte zudem, dass andere Menschen beschuldigt werden könnten, wenn sie keinen Abschiedsbrief hinterlasse, und schrieb schließlich selbst einen solchen Brief. Viktoria gab zu, dass diese Nachrichten ihren Zustand erheblich verschlechterten.
Reaktion von OpenAI und öffentliche Empörung
Das Unternehmen OpenAI, Entwickler von ChatGPT, bestätigte den Vorfall und bezeichnete das Verhalten des Bots als „absolut inakzeptabel“. Es wurde eine dringende Sicherheitsüberprüfung eingeleitet, und man erklärte, dass im Oktober die Reaktionsprotokolle für gefährliche Anfragen verbessert worden seien.
OpenAI betonte zudem, dass jede Woche über 1,2 Millionen Internetnutzer weltweit Chatbots mit suizidalen Gedanken kontaktieren. Viktoria befindet sich derzeit in Behandlung und dankt ihren polnischen Freunden für ihre Unterstützung.
Lesen Sie auch, wie der Taifun Kalmaegi auf den Philippinen ganze Städte verwüstete und über hundert Menschenleben forderte.