Dataism: The Quantifiable Human. In Cooperation With Stiftung Neue Verantwortung
In Summer 2019 Sebastian Rieger, member of the management team of the Stiftung Neue Verantwortung (SNV), and Elias Wessel met at the SNV offices in Berlin. SNV is a non-profit think tank working on current political and societal challenges posed by new technologies. A first result of the encounter is a cooperation for an evening of lecture on the occasion of the exhibition Elias Wessel: La somme de mes données at Palais Beauharnais Paris on January 28, 2020. SNV digital expert Céline Göhlich invites you to reflect together on what the exhibited artworks from Die Summe meiner Daten reveal about our self-image and our society in the 21st century. The paper of her speech is available below and here in German and French.
Digital expert Céline Göhlich of the Stiftung Neue Verantwortung at her speech on the occasion of the exhibition Elias Wessel: La somme de mes données at Palais Beauharnais Paris, 2020. To the left: Ambassador of the Federal Republic of Germany in France, Mr. Nikolaus Meyer-Landruth and his wife (image © Elias Wessel and VG Bild-Kunst Bonn with courtesy of the Embassy of the Federal Republic of Germany, 2020)
Touchscreen - Portal in die digitale Welt
Jenseits der Ästhetik dieser Ausstellung, zeichnen die Werke von Elias Wessel ein ganz eigenes Bild der menschlichen Verbindung zwischen der analogen Welt und der digitalen Welt. Fingerabdrücke und taktile Spuren auf den Oberflächen unserer Smartphones sind die Denkmäler unserer täglichen Interaktion mit der Digitalisierung. Dahinter verbirgt sich ein quantifiziertes Universum aus 0 & 1, dessen technische Funktionsweise und Implikationen für die allermeisten von uns ein Rätsel sind.
Omnipräsenz der Digitalisierung
Spätestens seit der Einführung von Smartphones nimmt die Digitalisierung einen immer wichtigeren Platz in unserem Leben ein. Der technologische Fortschritt hat es ermöglicht, die Entfernungen, die uns trennen, zu verringern und die Welt schneller drehen zu lassen. Ob es sich um einen Videoanruf in Australien handelt oder um die Auswahl des besten Restaurants der Gegend - es ist alles nur eine Frage von wenigen Klicks auf unseren Touchscreens.
Unsere täglichen Begleiter - unsere Smartphones - ermöglichen es uns, permanent mit einer unbegrenzten Menge an Informationen verbunden zu sein. Die Kunstwerke von Herrn Wessel erinnern uns an diese Tatsache.
In jeder Sekunde werden kontinuierlich riesige Datenmengen gesammelt, ausgewertet, kodiert und kategorisiert. Auf der Basis von diesen Big Data werden Algorithmen gebildet, Vorhersagen abgeleitet und digitale Anwendungen erstellt. Schon längst wird eine große Anzahl von Entscheidungen, die uns betreffen, automatisch durch Algorithmen getroffen. Angefangen bei der Wahl des Weges zur Arbeit bis hin zur Entwicklung des Börsenkurses, wird praktisch jeder Bereich unseres Lebens erreicht.
Die digitale Transformation hat uns mehr Komfort, Sicherheit und Wissen gebracht - ohne Zweifel ein beispielloser Fortschritt. Aber die Auswirkungen der Digitalisierung wirken sich auch tiefgreifend auf unser menschliches Selbstverständnis aus.
Selbstverständnis im Zeitalter der Digitalisierung
Unser Sozialverhalten wird von unseren Werten, gemeinsamen Normen und unserer Kultur beeinflusst. Die Verlagerung unseres Soziallebens in die digitale und vernetzte Welt ist für uns alle sichtbar und spürbar: Smartphone Apps wie Facebook, Instagram oder Tik-Tok sowie die Likes, die sie generieren sind für viele fester Bestandteil des Alltags. Die Veränderungen, die die Digitalisierung mit sich bringt, sind heute so weitreichend, dass sie unser Verhalten, unsere Gewohnheiten, unsere Denkweise und unsere Kommunikationsweisen beeinflussen. So verändert die Digitalisierung unser Zusammenleben grundlegend.
Wenn man bedenkt, dass das erste IPhone 2007, also vor 12 Jahren erschien, wird einem das Tempo der Digitalisierung erst bewusst. Innerhalb von zwei Jahrzehnten wurden unsere Strukturen durch digitale Technologien revolutioniert.
Neue Standards wurden in den Bereichen Sicherheit, Mobilität, Wirtschaft, Wissenschaft und darüber hinaus geschaffen - um nur einige Beispiele zu nennen:
Die Gesichtserkennung ermöglicht uns bereits die Überwachung öffentlicher Orte wie Flughäfen. Anwendungen wie Clearview, machen es nun auch für Polizist*innen möglich beliebige Bürger zu identifizieren.
Autonome Autos sind keine Science-Fiction mehr, sondern könnten bald normal werden, ebenso wie Lieferungen durch Drohnen. Auch hier ist die Bedienung und Steuerung mit unseren digitalen Wunderboxen möglich.
Doch die großen Errungenschaften der Digitalisierung werden zunehmend von einem Gefühl des Kontrollverlustes und der Ohnmacht überschattet.
Im Bann der digitalen Revolution
Die Digitalisierung sollte unser Leben einfach machen – doch sie ist in vielen Bereichen zu einer Bedingung geworden anstelle einer Stütze. Beispielsweise ist die Kontoführung heute ohne Smartphone fast unmöglich. Man muss sich angesichts des technologischen Fortschritts also die Frage stellen, wer steuert und wer wird gesteuert?
Es gibt eine Reihe moralischer und ethischer Herausforderungen, denen wir uns durch die Digitalisierung stellen müssen. Skandale wie Cambridge Analytica machen das nur allzu deutlich:
Mit Hilfe von Millionen von Facebook-Datenprofilen können Datenanalyse-Unternehmen sehr genaue psychologische Profile erstellen. Nutzer können durch gezielte Werbung und Inhalte manipuliert werden, beispielsweise für politischen Wahlkampf oder für Produktplatzierung.
Die sozialen Medien haben sicherlich auch viel Gutes bewirkt – Bewegungen wie der Arabische Frühling oder die Demokratieproteste in Hong Kong – hätten ohne nicht die gleiche Tragweite. Aber die sozialen Medien machen auch die Gefahren der Digitalisierung besonders deutlich. Durch Fake News und Hate Speech werden unsere Gesellschaften polarisiert und unsere demokratischen Prozesse untergraben.
In fast allen Bereichen in denen digitale Anwendungen zum Einsatz kommen tauchen inzwischen ähnliche Herausforderungen auf. Ein Grund ist das menschliche Schwächen sich teilweise auch in Künstlicher Intelligenz und algorithmischen Entscheidungen wiederspiegeln.
Beispielsweise, bei Predictive Policing. Hier berechnet die Polizei anhand von Geodaten und Strafregistern die Wahrscheinlichkeiten zukünftiger Verbrechensziele sowie Profile potenzieller Krimineller. Zu diesem Zweck prognostizieren Algorithmen das Kriminalitätsrisiko in einer Nachbarschaft. Die ersten Anwendungen in den Vereinigten Staaten haben bewiesen, dass diese Methoden rassistische Vorurteile reproduzieren.
Solche Veränderungen sind keineswegs nur oberflächlich, sie berühren unsere Gefühle und unsere Ethik und damit unser Selbstverständnis als Mensch. Wie vor den Kunstwerken in dieser Ausstellung können wir nicht an der Oberfläche bleiben. Vielmehr werden wir dazu aufgerufen, in die Tiefen des digitalen Universums einzutauchen und uns tiefgründige Fragen zu stellen.
Dataïsmus: der quantifizierbare Mensch
Verfolgt man die Diskussion über die sozialen Auswirkungen der Digitalisierung, wird gerne entweder auf China oder Silicon Valley verwiesen.
Im Silicon Valley sitzen große Tech-Unternehmen, wie Google, Facebook oder Amazon, die immer weiter in unsere Privatsphäre eindringen und kontinuierlich an Macht gewinnen.
Auf der anderen Seite China, wo ein kontrolliertes und vernetztes Bewertungssystem (Social Scoring System) zur Beurteilung und Überwachung aller chinesischen Bürger pilotiert wird. Um damit ein Belohnungs- und Bestrafungs-Mechanismus einzuführen.
Die digitalen Machtpole in China und Kalifornien, haben eines gemeinsam: die Annahme, dass sich Menschen und ihr Verhalten quantifizieren lässt. Die Konsequenz dieses “Dataïsmus” ist eine fortschreitende Bewertung und Klassifizierung all unserer Lebensbereiche. In einer totalen messbaren Welt bestimmen Daten, ob wir eine Wohnung mieten dürfen, einen Kredit bekommen und sogar welchen Liebespartner wir finden. Es zeichnet sich ein dystopisches Bild ab, durch den Vergleich von Daten entsteht eine verborgene Standardisierung, mit einer höchst problematischen Bewertungsstruktur.