Dataism: The Quantifiable Human. In Cooperation With Stiftung Neue Verantwortung
Elias Wessel
In Summer 2019 Sebastian Rieger, member of the management team of the Stiftung Neue Verantwortung (SNV), and Elias Wessel met at the SNV offices in Berlin. SNV is a non-profit think tank working on current political and societal challenges posed by new technologies. A first result of the encounter is a cooperation for an evening of lecture on the occasion of the exhibition Elias Wessel: La somme de mes données at Palais Beauharnais Paris on January 28, 2020. SNV digital expert Céline Göhlich invites you to reflect together on what the exhibited artworks from Die Summe meiner Daten reveal about our self-image and our society in the 21st century. The paper of her speech is available below and here in German and French.
Jenseits der Ästhetik dieser Ausstellung, zeichnen die Werke von Elias Wessel ein ganz eigenes Bild der menschlichen Verbindung zwischen der analogen Welt und der digitalen Welt. Fingerabdrücke und taktile Spuren auf den Oberflächen unserer Smartphones sind die Denkmäler unserer täglichen Interaktion mit der Digitalisierung. Dahinter verbirgt sich ein quantifiziertes Universum aus 0 & 1, dessen technische Funktionsweise und Implikationen für die allermeisten von uns ein Rätsel sind.
Omnipräsenz der Digitalisierung
Spätestens seit der Einführung von Smartphones nimmt die Digitalisierung einen immer wichtigeren Platz in unserem Leben ein. Der technologische Fortschritt hat es ermöglicht, die Entfernungen, die uns trennen, zu verringern und die Welt schneller drehen zu lassen. Ob es sich um einen Videoanruf in Australien handelt oder um die Auswahl des besten Restaurants der Gegend - es ist alles nur eine Frage von wenigen Klicks auf unseren Touchscreens.
Unsere täglichen Begleiter - unsere Smartphones - ermöglichen es uns, permanent mit einer unbegrenzten Menge an Informationen verbunden zu sein. Die Kunstwerke von Herrn Wessel erinnern uns an diese Tatsache.
In jeder Sekunde werden kontinuierlich riesige Datenmengen gesammelt, ausgewertet, kodiert und kategorisiert. Auf der Basis von diesen Big Data werden Algorithmen gebildet, Vorhersagen abgeleitet und digitale Anwendungen erstellt. Schon längst wird eine große Anzahl von Entscheidungen, die uns betreffen, automatisch durch Algorithmen getroffen. Angefangen bei der Wahl des Weges zur Arbeit bis hin zur Entwicklung des Börsenkurses, wird praktisch jeder Bereich unseres Lebens erreicht.
Die digitale Transformation hat uns mehr Komfort, Sicherheit und Wissen gebracht - ohne Zweifel ein beispielloser Fortschritt. Aber die Auswirkungen der Digitalisierung wirken sich auch tiefgreifend auf unser menschliches Selbstverständnis aus.
Selbstverständnis im Zeitalter der Digitalisierung
Unser Sozialverhalten wird von unseren Werten, gemeinsamen Normen und unserer Kultur beeinflusst. Die Verlagerung unseres Soziallebens in die digitale und vernetzte Welt ist für uns alle sichtbar und spürbar: Smartphone Apps wie Facebook, Instagram oder Tik-Tok sowie die Likes, die sie generieren sind für viele fester Bestandteil des Alltags. Die Veränderungen, die die Digitalisierung mit sich bringt, sind heute so weitreichend, dass sie unser Verhalten, unsere Gewohnheiten, unsere Denkweise und unsere Kommunikationsweisen beeinflussen. So verändert die Digitalisierung unser Zusammenleben grundlegend.
Wenn man bedenkt, dass das erste IPhone 2007, also vor 12 Jahren erschien, wird einem das Tempo der Digitalisierung erst bewusst. Innerhalb von zwei Jahrzehnten wurden unsere Strukturen durch digitale Technologien revolutioniert.
Neue Standards wurden in den Bereichen Sicherheit, Mobilität, Wirtschaft, Wissenschaft und darüber hinaus geschaffen - um nur einige Beispiele zu nennen:
Die Gesichtserkennung ermöglicht uns bereits die Überwachung öffentlicher Orte wie Flughäfen. Anwendungen wie Clearview, machen es nun auch für Polizist*innen möglich beliebige Bürger zu identifizieren.
Autonome Autos sind keine Science-Fiction mehr, sondern könnten bald normal werden, ebenso wie Lieferungen durch Drohnen. Auch hier ist die Bedienung und Steuerung mit unseren digitalen Wunderboxen möglich.
Doch die großen Errungenschaften der Digitalisierung werden zunehmend von einem Gefühl des Kontrollverlustes und der Ohnmacht überschattet.
Im Bann der digitalen Revolution
Die Digitalisierung sollte unser Leben einfach machen – doch sie ist in vielen Bereichen zu einer Bedingung geworden anstelle einer Stütze. Beispielsweise ist die Kontoführung heute ohne Smartphone fast unmöglich. Man muss sich angesichts des technologischen Fortschritts also die Frage stellen, wer steuert und wer wird gesteuert?
Es gibt eine Reihe moralischer und ethischer Herausforderungen, denen wir uns durch die Digitalisierung stellen müssen. Skandale wie Cambridge Analytica machen das nur allzu deutlich:
Mit Hilfe von Millionen von Facebook-Datenprofilen können Datenanalyse-Unternehmen sehr genaue psychologische Profile erstellen. Nutzer können durch gezielte Werbung und Inhalte manipuliert werden, beispielsweise für politischen Wahlkampf oder für Produktplatzierung.
Die sozialen Medien haben sicherlich auch viel Gutes bewirkt – Bewegungen wie der Arabische Frühling oder die Demokratieproteste in Hong Kong – hätten ohne nicht die gleiche Tragweite. Aber die sozialen Medien machen auch die Gefahren der Digitalisierung besonders deutlich. Durch Fake News und Hate Speech werden unsere Gesellschaften polarisiert und unsere demokratischen Prozesse untergraben.
In fast allen Bereichen in denen digitale Anwendungen zum Einsatz kommen tauchen inzwischen ähnliche Herausforderungen auf. Ein Grund ist das menschliche Schwächen sich teilweise auch in Künstlicher Intelligenz und algorithmischen Entscheidungen wiederspiegeln.
Beispielsweise, bei Predictive Policing. Hier berechnet die Polizei anhand von Geodaten und Strafregistern die Wahrscheinlichkeiten zukünftiger Verbrechensziele sowie Profile potenzieller Krimineller. Zu diesem Zweck prognostizieren Algorithmen das Kriminalitätsrisiko in einer Nachbarschaft. Die ersten Anwendungen in den Vereinigten Staaten haben bewiesen, dass diese Methoden rassistische Vorurteile reproduzieren.
Solche Veränderungen sind keineswegs nur oberflächlich, sie berühren unsere Gefühle und unsere Ethik und damit unser Selbstverständnis als Mensch. Wie vor den Kunstwerken in dieser Ausstellung können wir nicht an der Oberfläche bleiben. Vielmehr werden wir dazu aufgerufen, in die Tiefen des digitalen Universums einzutauchen und uns tiefgründige Fragen zu stellen.
Dataïsmus: der quantifizierbare Mensch
Verfolgt man die Diskussion über die sozialen Auswirkungen der Digitalisierung, wird gerne entweder auf China oder Silicon Valley verwiesen.
Im Silicon Valley sitzen große Tech-Unternehmen, wie Google, Facebook oder Amazon, die immer weiter in unsere Privatsphäre eindringen und kontinuierlich an Macht gewinnen.
Auf der anderen Seite China, wo ein kontrolliertes und vernetztes Bewertungssystem (Social Scoring System) zur Beurteilung und Überwachung aller chinesischen Bürger pilotiert wird. Um damit ein Belohnungs- und Bestrafungs-Mechanismus einzuführen.
Die digitalen Machtpole in China und Kalifornien, haben eines gemeinsam: die Annahme, dass sich Menschen und ihr Verhalten quantifizieren lässt. Die Konsequenz dieses “Dataïsmus” ist eine fortschreitende Bewertung und Klassifizierung all unserer Lebensbereiche. In einer totalen messbaren Welt bestimmen Daten, ob wir eine Wohnung mieten dürfen, einen Kredit bekommen und sogar welchen Liebespartner wir finden. Es zeichnet sich ein dystopisches Bild ab, durch den Vergleich von Daten entsteht eine verborgene Standardisierung, mit einer höchst problematischen Bewertungsstruktur.
Noch sind wir nicht an diesem Punkt. Trotz der Masse an generierten Daten, ist ein wesentlicher Teil des Menschen zu komplex, um in 0 & 1 erfasst zu werden. Unsere sozialen und emotionalen Attribute und unsere Fähigkeit zur Veränderung lassen sich nur schwer quantifizieren. Uns definiert eben mehr als die Summe unserer Daten.
Die Antwort: digitaler Humanismus
Doch wie der Mensch entwickeln sich auch die Algorithmen weiter, und zwar schnell. Wir müssen uns bewusst werden, dass wir bei jedem Kauf, bei jeder Online-Suche und bei jedem Kommentar in sozialen Netzwerken persönliche Daten generieren. Unser Online-Verhalten wird zu unserem digitalen Fußabdruck. Dieser numerische Schatten wird gespeichert und dazu verwendet, Vorhersagen abzuleiten, die uns und unsere Nachkommen betreffen.
Die Digitalisierung wird weiterhin die Spielregeln unserer Gesellschaften und der Politik verändern. Wir brauchen einen neuen Ansatz, um diesen Herausforderungen zu begegnen und gleichzeitig von den unterschiedlichen Vorteilen des digitalen Fortschritts zu profitieren.
Dies erfordert vor allem eine kohärentes Narrativ der Rechte und Pflichten des Individuums in einer digitalen Welt. Die Geschichte hat uns gezeigt, dass wir in der Lage sind, solche Herausforderungen zu bewältigen. Nehmen wir die Aufklärung als Beispiel. Dank revolutionärer Ideen von großen Philosoph*innen, wie Descartes, Voltaire und Kant, wurde der Mensch von seiner Unmündigkeit befreit und die mittelalterliche Gesellschaft von der feudalen Unterdrückung entfesselt. Der Humanismus der Aufklärung legte so den Grundbaustein für die Menschenrechte und die Demokratie.
Heute brauchen wir einen neuen Humanismus, der sich dem digitalen Zeitalter stellt. Ein philosophischer Ansatz, der das Potenzial der Digitalisierung mit den Menschenrechten, dem Datenschutz und unseren demokratischen Grundwerten in Einklang bringt.
Die Überzeugung, dass wir den großen Herausforderungen unserer Zeit mit noch mehr Big Data und Algorithmen begegnen werden - wie es der Dataïsmus voraussagt - erscheint mir unsinnig.
In Erinnerung an das Zeitalter der Aufklärung ist meine Botschaft die Neudefinition des Prinzips der "Vernunft" für unsere gesellschaftliche Auseinandersetzung mit der Digitalisierung. Zwischen der totalitären Überwachung in China und der massenhaften digitalen Kommerzialisierung des Silicon Valley, muss einen vernünftigen „digitalen“ Weg geben. Hier spielt Europa, vor allem Frankreich und Deutschland, eine entscheidende Rolle bei der Aushandlung von Werten, Normen und Regeln für eine konstruktive Zusammenarbeit im Zeitalter der Digitalisierung.