Mit körperloser Maschinenstimme fordern die Borg, das kybernetische Kollektiv, die vorwiegend menschliche Besatzung der Enterprise auf, sich zu ergeben. Das Borg-Kollektiv assimiliert alle für sie interessanten Lebensformen, es verleibt sich deren biologische und technologische Charakteristika und deren Wissen, aber auch deren Denken, Handeln und Fühlen ein.

Neue Technologien durchdringen unseren Alltag und schreiben sich in nahezu alle Lebensbereiche ein. Wir leben in einer Welt, die von Geräten und Anwendungen kontrolliert, gesteuert und zunehmend auch konstruiert wird. Die Digitalisierung von Kommunikations- und Kontrollsystemen ermöglicht eine gut getarnte Art der Einflussnahme, bei der die Nutzerinnen und Nutzer gemäß den Zielen und Interessen wirtschaftlicher und/oder politischer Verbände manipuliert werden. Nicht nur, dass enorme Geldflüsse an den Börsen und die damit einhergehenden globalen Auswirkungen von Algorithmen gesteuert werden und durch die neuen Möglichkeiten in den Sozialen Medien manipulativ Einfluss − z.B. auf Wahlen − genommen werden kann: unsere Körper, unser Denken und Handeln werden konstituiert von neuen Technologien. Kontrolle und Zensur werden durch eigenes Zutun in unsere Aktivitäten integriert, indem wir größtenteils kritiklos Hard- und Software nutzen. Umgeben von App-gesteuerten Geräten wie Smartphones, Smartwatches, Fitnessarmbändern, Fernsehern, Kühlschränken, Sicherheitssystemen, smarten Barbiepuppen etc., die über das Internet verbunden kommunizieren, leben wir in Smart Homes in Smart Cities. Diesen Geräten und Anwendungen entgeht kein Gesicht, keine Stimme, keine Emotion, keine Bewegung, kein (Kauf-)Verhalten. Dabei werden Daten gesammelt, die Systeme füttern, die uns bewerten und über die Vergabe von Versicherungsprämien, Krediten, Wohnungen, Stellen am Arbeitsmarkt etc. entscheiden. Bereitwillig haben wir die Steuerung an Systeme abgegeben.

Zum einen gibt es Technologien, die Cyborgs konstruieren, indem sie die Struktur des Körpers verändern, zum anderen sind es Technologien, die in unserer Umgebung eingesetzt werden, die unser Denken, Verhalten und Handeln wesentlich beeinflussen. Bereits 1985 beschrieb Donna Haraway in ihrem „Manifesto for Cyborgs“ den Übergang von einer organischen Industriegesellschaft in ein polymorphes Informationssystem, in dem Wissen, technologische Prozesse, aber auch Menschen und andere Organismen in Informationseinheiten zergliedert werden. Alles wird codierbar, alles wird berechenbar und damit verwert- und steuerbar gemacht. Aber wo bleibt, wie Frieder Nake formuliert, das Recht als Mensch unberechenbar zu sein?

Zum ersten Mal in der Geschichte ermöglichen wir KI-betriebenen Technologien, „eigenständig“ zu handeln. Technische Geräte werden damit zu „Subjekten“, die dabei rücksichtslos in unsere Privatsphäre vordringen. „Ob Technik unser Leben begleitet oder ob sie es gestaltet, ist nicht das Gleiche“, formuliert Richard David Precht in „Künstliche Intelligenz und der Sinn des Lebens“ (2020). Moralische Entscheidungen sind, anders als naturwissenschaftliche Erkenntnis, nicht rückhaltlos objektivierbar. Moralische Dilemmata lassen sich nicht durch millionenfache Online-Befragungen (Moral Machine) über die Summe der größten Ansammlung ähnlicher Urteile quasi objektiv lösen. Quantität ist niemals identisch mit moralischer Qualität. „Moralisch umsichtig handelnde Roboter mit menschlichen Werten scheinen vielen Politikern, Managerinnen, Journalisten und Wissenschaftlerinnen unbedingt notwendig zu sein“, betont Precht, denn für manche ist eine „ethische“ Programmierung schon deshalb unumgänglich, damit Menschen die zukünftigen Motive einer starken KI festlegen, bevor diese es selbst tut. Dass alles, was Computer und Roboter tun, dann automatisch moralisch richtig und vollständig überprüfbar wäre, ist hochgradig anzuzweifeln. „Moral ohne Subjektivität ist keine Moral und Subjektivität ohne Moral keine Subjektivität. Moralische Urteile bestehen nicht nur aus Ergebnissen oder gar ‚Lösungen‘, sondern der Weg, der Akt der Entscheidung, ist selbst von größter Bedeutung“, unterstreicht Precht. „Die Maschinenethik verlangt, Maschinen nicht selbst ‚ethisch‘ zu programmieren, also Entscheidungen treffen zu lassen, die über Menschen richten. Ethisch mit Maschinen umzugehen ist das Gegenteil davon, sie ‚ethisch‘ zu programmieren.“

Wie werden wir als Cyborgs, als hybride Kreaturen – nicht nur als Mischwesen aus Maschine und Organismus, sondern auch als Konstrukte, in denen individuelle wie gesellschaftliche Wahrnehmungen und Projektionen, Realitäten und Fiktionen miteinander verschmelzen – unser Leben in diesen digitalisierten Städten wahrnehmen bzw. führen und wie die Gesellschaft mitgestalten? Welche Regeln sollte ein Digitaler Kodex, den wir uns wie einen neuen Gesellschaftsvertrag erarbeiten müssen, angesichts der Möglichkeiten der digitalen Technologien so etwas wie eine „Hyper-Intelligenz“ zu erzeugen, festschreiben? Wie würde Isaac Asimov seine Robotischen Gesetze (1942) heute formulieren? Die Robotergesetze aus der Kurzgeschichte Runaround finden sich in einem imaginären Handbuch für Roboter in der sechsundfünfzigsten Auflage aus dem Jahr 2058:

1. Ein Roboter darf kein menschliches Wesen verletzen oder durch Untätigkeit zulassen, dass einem menschlichen Wesen Schaden zugefügt wird.

2. Ein Roboter muss den ihm von einem Menschen gegebenen Befehlen gehorchen – es sei denn, ein solcher Befehl würde mit Regel eins kollidieren.

3. Ein Roboter muss seine Existenz beschützen, solange dieser Schutz nicht mit Regel eins oder zwei kollidiert.

Verwendete Literatur:

Isaac Asimov, The Naked Sun. Doubleday, 1975

Nick Bostrom, Superintelligenz. Szenarien einer kommenden Revolution, 2018

Rosi Braidotti, The Posthuman, 2013

Ollivier Dyens, The Emotion of Cyberspace: Art and Cyber-Ecology, 1994

Donna Haraway, A Cyborg Manifesto: Science, Technology, and Socialist-Feminism in the Late Twentieth Century, 1984

Donna Haraway, Unruhig bleiben. Die Verwandtschaft der Arten im Chthuluzän, 2018

Verena Kuni, Cyborg_Configurationen als Formationen der (Selbst-)Schöpfung im Imaginationsraum technologischer Kreation (I): Alte und neue Mythologien von »Künstlichen Menschen«, in: http://www.medienkunstnetz.de/themen/cyborg_bodies/mythische-koerper_I/

Katja Kwastek, „Wir sind nie digital gewesen. Postdigitale Kunst als Kritik binären Denkens“, in: KUNSTFORUM International Bd. 243 Now. – Dez. 2016, hrsg. Franz Thalmair

Dagmar Fink, „Ein Fisch im flaschengrünen tiefen All? Oder: wie Feminist*innen die transhumane Figur d* Cyborg kaperten und zu compost verarbeiteten“, in: FIfF-Kommunikation 3/16

Dagmar Fink, Wir Sind die Borg! Cyborgs queer gelesen, luxemburg 3/2015
Susanne Lettow, „Biokapitalismus und Inwertsetzung der Körper. Perspektiven der Kritik“, in: PROKLA 178, 45. Jg., Nr. 1, 2015

Richard David Precht, Künstliche Intelligenz und der Sinn des Lebens, 2020

Roland Schappert, „Digitalisierung heute. Wert und Legitimation“, in: KUNSTFORUM International Bd. 252 Feb. – März 2018

Herbert A. Simon, What Computers Mean to Man and Society, 1977

Franz Thalmair, „Postdigital 1. Allgegenwart und Unsichtbarkeit eines Phänomens“, in: KUNSTFORUM International Bd. 242 Sept. – Okt. 2016

BULLETIN ETH Zürich Nr. 286 August 2002