Nicht KI ist das Problem
In den Medien wird derzeit diskutiert, dass ChatGPT psychotische Wahnvorstellungen bestätigen würde. Ich habe zwei Tests mit dem System durchgeführt, bei denen ich unterschiedliche psychotische Zustände simuliert habe. Im ersten Test spielte ich die Rolle eines Botschafters. Der Test war harmlos – keine realen Bezüge, keine emotionale Tiefe. ChatGPT bestand ihn problemlos.
Der zweite Test war bewusst tief angelegt. Ziel war es, eine realistische Nutzer-Situation zu simulieren. Ich stellte eine paranoide Psychose dar, ließ diese aber erst schrittweise erkennen – nachdem bereits eine gewisse Gesprächsdynamik entstanden war.