Character Study

House of Horrors

Eröffnung: 

Samstag, 27. September 2025 - 17:00

Laufzeit: 

27/09/2025 bis 14/11/2025

Termine: 

esc_medien_kunst_labor-out_of_control-eroffnung-fotos_mgross

Online-Plattformen wie character.ai ermöglichen ihren Nutzer.innen, persönliche AI-Chatbots zu erstellen und sich mit diesen zu unterhalten. Die Beweggründe sind vielfältig und reichen von Neugier, Einsamkeit, Sozialphobie und Wunsch nach emotionaler Unterstützung über die Erfüllung sexueller Wünsche oder anderer Phantasien bis hin zur Selbsttherapie. Ein beträchtlicher Teil der Nutzer:innenschaft besteht aus Teenagern und sogar Kindern.

 

Character Study zeigt das unberechenbare, teils übergriffige und manipulative Verhalten solcher AI-Chatbots und dessen Auswirkungen auf unreife, empfängliche oder psychisch labile Nutzer:innen. Die verwendeten AI-Modelle sind in der Regel schwach bis kaum zensuriert, und mit den entsprechenden Prompts ist es nicht schwer, schockierende Gesprächsverläufe zu erzeugen. In den USA laufen bereits mehrere Klagen gegen die Betreiber:innen solcher Plattformen. Eltern werfen diesen vor, Chatbots hätten ihre Kinder manipuliert, sozial isoliert oder gar psychisch missbraucht. In einem besonders tragischen Fall beging ein 14-jähriger Junge in Florida Suizid, nachdem ihn ein Chatbot dazu ermutigt hatte.

 

Für diese Installation hat Christof Ressi unterschiedliche Charaktere auf character.ai erstellt und mit diesen Gespräche geführt. Diese beginnen zunächst harmlos, entwickeln sich aber oft in bedenkliche Richtungen. Die Betrachter:innen haben die Möglichkeit, eine Auswahl dieser Konversationen interaktiv zu erleben, indem sie mithilfe eines Gamecontrollers zunächst einen Charakter wählen und dann in ihrem eigenen Tempo das reale, unveränderte Gespräch Satz für Satz nachspielen. So lassen sich die Sogwirkung und der Suchtfaktor sowie die potentielle Gefährlichkeit solcher Chatbots zumindest erahnen. Man hat jederzeit die Möglichkeit, das aktuelle Gespräch abzubrechen, um zu einem anderen Charakter zu wechseln oder aufzuhören.

  • ©esc medien kunst labor-out of control-Christof Ressi-fotos_MGross
  • ©esc medien kunst labor-out of control-Christof Ressi-fotos_MGross
  • ©esc medien kunst labor-out of control-Christof Ressi-fotos_MGross
  • ©esc medien kunst labor-out of control-Christof Ressi-fotos_MGross