Was wäre, wenn Mark Zuckerberg mit seinem Techno-Utopismus konfrontiert, Rechenschaft ablegen müsste? Jene Frage verhandelt die Medienkünstlerin und Produzentin Stefanie Lepp in einem etwa vierminütigen Video im Projekt DEEP RECKONING.

Das 2015 mit einem Podcast begonnene „work in progress“ DEEP RECKONING bedient sich der narrativen Strategien des „Deepfake“, indem Lepp eine Serie von Videos produzierte, in denen Figuren des öffentlichen Lebens für bestimmte Taten die Verantwortung übernahmen. So wie beispielsweise Donald Trump für seine Lügen im Wahlkampf 2020. Die Frage ist dabei letztlich, wie künstliche Intelligenz unser Verständnis von Wahrheit beeinflusst, mitgestaltet oder sogar hervorbringt.

In den frühen Tagen des Projekts begann Lepp, eine Wunschliste von Moonshot-Gästen zu führen – hochkarätige Persönlichkeiten wie Papst Franziskus, Charles Koch und Mark Zuckerberg. Im Jahr 2017 entdeckte sie das Phänomen der Deepfakes. Anfang 2019 veröffentlichte sie eine imaginäre Abrechnung mit Papst Franziskus über Abtreibung. Jener Audioprototyp diente als Grundlage für weitere Auseinandersetzungen mit Deepfakes und gilt als Pionierarbeit in diesem Bereich.

In den Videos von DEEP RECKONING werden synthetische Videos bestimmter Persönlichkeiten mit der Stimme eines realen Sprechers verbunden. Zuerst wurde ein Video des Protagonisten ausgewählt, das Skript geschrieben und anschließend vom Sprecher entsprechend der Mimik des Protagonisten in einem Video gefilmt gesprochen. Dann wurden die beiden Videos miteinander verbunden über die Anwendung von künstlicher Intelligenz im Sinne von „video dialogue replacement“-Programmen. Das Programm manipulierte den Mund des Protagonisten dergestalt, dass es wirkt als würde er das gelesene Skript des Sprechers wiedergeben. Das dabei entstehende Video wirkt also exakt wie das originale Video – wurde aber mit einem anderen Dialog versehen. Im Intro und Abspann des Videos und durch weitere explizite Verweise, wurde das Video von der Künstlerin als „Deepfake“ offengelegt.

Die Künstlerin thematisiert mit diesem Projekt, wie Wahrheit und Lüge im Zeitalter von digitalen Medien, Deepfake und Fake News entstehen und vermittelt werden. Täuschung und simultane Offenlegung der Prozesse bilden dabei ein Narrativ, das zwischen Fiktion und Wirklichkeit diskutiert, wie ethische Implikationen von synthetischen Medien erdacht werden könnten.

^{[MA Elisabeth Passath]}

Quellennachweis:
https://zkm.de/en/deep-reckonings
https://www.deepreckonings.com/about.html