Warum jeder etwas zu verbergen hat

Viele Menschen sind überzeugt, dass sie nichts zu verbergen haben. Beim genaueren Hinsehen entpuppt sich dies leider als ein voreilig getroffener Schluss. Ich will versuchen, diese komplexe Problematik verständlich zu erklären.

-> English version of this article

Daten preisgeben heißt nur mehr Werbung?

Wenn jemand heute der Verarbeitung seiner Daten zustimmt, werden die Daten neben dem eigentlichen Zweck, wie z. B. der Abwicklung eines Bestellvorgangs, meist auch für Werbung verwendet. Die übliche Schlussfolgerung ist, dass Menschen, die viele Daten von sich preisgeben, einfach mehr Werbung erhalten. Das finden viele unproblematisch, da sie Werbung wegklicken oder blockieren können und so den Einfluss von Werbung auf ihr Kaufverhalten kontrollieren können. Das Übermitteln von Daten ist also für viele unproblematisch. Ich halte diese Sichtweise für zu kurz gedacht.

Werbeflut (von commons.wikipedia.com)

Warum es um mehr als um Konsum-Werbung geht

Vereinfacht gesagt bin ich überzeugt, dass nicht nur unser Konsumverhalten, sondern auch unser Meinungsbild zunehmend durch Werbung beeinflusst wird, ohne dass uns das bewusst ist.

These 1: Menschen können die Menge eingehender Werbung nicht mehr ausreichend kontrollieren.

Werbung, was nicht nur das Anpreisen von Produkten, sondern auch von Meinungen, beispielsweise von Parteien oder Unternehmen umfasst, ist zunehmend subtil. Es wird immer schwieriger, beworbene von nicht beworbenen Inhalten zu unterscheiden.

Dadurch kann Werbung mithilfe der Fülle an Daten, die Unternehmen von vielen Menschen haben, so zielgerichtet platziert werden, dass sich die Zielgruppe zunehmend von Werbung angesprochen fühlt statt sie als nervig zu empfinden. Beworbene Meinungsäußerungen werden so nicht selten unreflektiert in das eigene Meinungsbild übernommen. Dieser Vorgang der gezielten Beeinflussung von politischen Meinungen wird im Allgemeinen als Propaganda bezeichnet und heute zunehmend erfolgreich eingesetzt, z. B. in Kampagnen für politische Wahlen. Zusammenfassend korreliert die Menge an Daten über Menschen in der Hand von Unternehmen oder der Politik mit der Effizienz und Effektivität deren Propaganda. Daraus ergibt sich meine 2. These:

These 2: Meinungsmanipulation ist heute mit zunehmendem Wissen (durch Daten über Menschen) so effektiv und effizient wie noch nie.

In der Geschichte war Meinungsmanipulation schon immer eine wichtige Aufgabe derer, die politische Macht ausüben wollten: Die Griechen, die Römer, die Könige und Kaiser, bis hin zu den Regierungen heute. Eines der größten Systeme des letzten Jahrhunderts entwickelte das Ministeriums für Staatssicherheit (sog. „Stasi“) der DDR. Das System der Stasi war allerdings gegen die aktuellen Systeme z. B. von heutigen Geheimdiensten signifikant kleiner. Die heute eingesetzten Machine-Learning-Algorithmen produzieren nutzbares Wissen aus den Daten um mehrere Größenordnungen schneller als es im letzten Jahrhundert möglich war.

Ausbaustufe am Beispiel Chinas: Menschen, die sich nicht manipulieren lassen, werden benachteiligt

Am Beispiel von China möchte ich die Ausbaustufe von Propaganda aufzeigen, d. h. den Zustand, in dem Bürger, die der Manipulation trotzen und sich dadurch nicht durchweg parteikonform handeln, benachteiligt werden. Die Quellen für die nachfolgenden Informationen über China finden sich am Ende dieses Abschnitts.

Zusammenfassend plant die chinesische Regierung ab 2020 alle Bürger mit einer Zahl zu bewerten, den sog. „citizen score“. Details dafür werden aktuell in Pilotprojekten erprobt, wie z.B. in Rongcheng. Dort am Marktplatz werden die Bürger mit dem besten Score öffentlich ausgehängt – inkl. Foto und z. T. den Aktivitäten, die Ihnen den guten Score beschert haben. Anfangs erhält jeder Bürger einen Score von 1000. Punkteabzug gibt es beispielsweise für Verkehrssünden oder kritische Äußerungen ggü. der Regierung. Pluspunkte gibt es z. B. für gute Leistungen im Job, ehrenamtliches Engagement oder parteikonforme Äußerungen.

Für die technische Umsetzung werden Datenbanken vieler Unternehmen, zusammengezogen und ausgewertet, v.a. von Messengern (v. a. WeChat, Pendant zu Whatsapp) und Online-Shops (v. a. Alibaba, Pendant zu Amazon) zusammengezogen und ausgewertet. Weitere große Datenmengen kommen von Kameras. In den chinesischen Städten findet derzeit der Aufbau umfassender Kamera-Netzwerke statt.

Öffentlicher Aushang in Rongcheng (von foreignpolicy.com)

Welche Auswirkung hat der Citizen Score?

Bürger mit niedrigem Punktestand werden benachteiligt; z. B. steigen Kosten des Alltags, wie Nebenkosten der Mietwohnung, Karrieremöglichkeiten werden eingeschränkt, oder die Reisefreiheit wird eingeschränkt. Ein Betroffener berichtet:

„Als ich ein Flugticket kaufen wollte, habe ich keins bekommen. Daraufhin habe ich herausgefunden, dass ich grundsätzlich keine Tickets mehr kaufen kann“.

Ein Bürger aus Rongcheng sagt:

„Was immer wir auch tun, wir denken dabei an unsere Kreditpunkte.“

Technisch höchst interessant aber gesellschaftlich höchst kritisch finde ich die Automatisierung dieses Systems. Bei Anwendung des Systems auf 1,4 Mrd. Chinesen in 18 Monaten müssen eine Vielzahl von Algorithmen aus dem Bereich des maschinellen Lernens angewendet werden, insb. aus dem Bereich des sog. „Deep Learnings“. Wie in diesem Blog post über gute Suchmaschinen erläutert, haben diese Algorithmen allerdings die Schwäche, dass sie schwer kontrollierbar und noch nicht ganz verstanden sind. Zusammenfassend wird das Schicksal der Menschen in China bald von Algorithmen bestimmt, die wir noch nicht ganz durchdrungen haben.

Zwischenfazit

Zusammenfassend wiederholt sich in China die Geschichte. Zudem wird das, was George Orwell in seinem Buch „1984“ beschrieben hat, noch mehr Realtität als es bisher schon ist.

Der Übergang zur nächsten Stufe des digitalen Überwachungsstaats in China geht es allerdings viel schneller als es bisher möglich war – dank moderner Technologien aus dem Bereich der Künstlichen Intelligenz, nämlich den Machine-Learning-Algorithmen. Diese „Erweiterung“ von 1984 durch moderne Technologien, angewendet von wenigen großen IT-Unternehmen wird von Dave Eggers in seinem Bestseller-Roman „The Circle“ wunderschön beschrieben. Man könnte meinen, dass China jedes Wort in diesem Buch Realität werden lässt. Nebenbei bemerkt ist China natürlich nicht das einzige Land, den man als Überwachungsstaat bezeichnen würde.

Für mich lautet an dieser Stelle das Ergebnis der bisherigen Überlegungen wie folgt:

Der Einfluss von Unternehmen oder Institutionen korreliert mit dem Umfang an Daten, die sie über natürliche Personen haben. Umfangreiche Datenmengen ermöglichen es, Personen so gut zu verstehen, dass sie kontrollierbar werden. Die Freiheit von Personen kann also durch das Herausgeben von vielen Daten eingeschränkt werden.

Ehrlich gesagt hat es viele Jahre gedauert, bis ich zu diesem Schluss gekommen bin. Bis dahin bin ich nur einer Vermutung gefolgt. Um die zu belegen, habe ich Geschäftsmodelle von datengetriebenen Unternehmen analysiert, Verschlüsselungssalgorithmen betrachtet, die von Edward Snowden enthüllten Dokumente gelesen und die Philosophie der Bewegung für freie Software nachvollzogen, die von Richard Stallman initiiert wurde. Trotzdem habe ich das Gefühl, dass ich nur die Spitze des Eisbergs verstanden habe, weil es insgesamt ein sehr komplexes Problem ist. Genau das wird von den wenigen Unternehmen, die von Überwachung profitieren, ausgenutzt: Nicht viele Leute verstehen diese Zusammenhänge. Viele sind sich darüber nicht bewusst, sagen „Ich habe doch nichts zu verbergen“, und geben viele Daten über sich preis. Für mich gibt es inzwischen zu viele Belege über die Nachteile eines solchen Verhaltens und fühle mich verantwortlich, das kund zu tun.

An dieser Stelle empfehle ich das beliebte Hörbuch „Qualityland“ von Mark Uwe Kling. Es erzählt von einer Person, die in einem digitalisierten Staat lebt und zunehmend die durch Überwachung entstehenden Probleme begreift. Es ist für mich die brillianteste Erzählung einer Dystopie, da sie Mark-Uwe Kling humorvoll verpackt, ohne dabei die Ernsthaftigkeit der grundlegenden Botschaft zu verlieren.

Gibt es auch Auswirkungen für uns in Europa, weit weg von China?

Ich denke, dass auf jeden Fall noch lange Zeit vergeht, bis ein ähnliches System bei uns Einzug findet. Die Ratifizierung der Datenschutz-Grundverordnung (EU-DS-GVO) in diesem Jahr war ein wichtiger Schritt, um uns mehr Zeit zu geben, bis die chinesische Dystopie bei uns vielleicht einmal Einzug finden wird. Bis dahin wird man sich der Techniken für die unbewusste Meinungsmanipulation bedienen.

Ein schönes Beispiel, wie das chinesische System bei uns aussehen könnte, wird im folgenden Kurzvideo schön dargestellt:

Pizza-Bestellung im Überwachungsstaat (von youtube.com)

Aber ich lasse mich doch nicht manipulieren!

Viele Menschen sind überzeugt, dass sie sich niemals manipulieren lassen. Nach meinen bisherigen Ausführungen sollte deutlich geworden sein: Diese Überzeugung ist nur logisch, denn die Manipulation findet oft im Unbewussten statt. Wer von meinen Leserinnen und Lesern trotzdem glaubt, eine Ausnahme zu sein, möge z. B. in das Buch „Predictably Irrational“ sehen. Wahrscheinlich wird sich die Meinung nach dem Lesen geändert haben.

Was kann ich tun?

In meinem Konzept der „nachhaltigen IT“ im Rahmen von Bitleaf geht es nicht nur um Bewusstsein für materielle und energetische Ressourcen bei der Verwendung von IT (Blog post über unseren ressourcenintensiven Lebensstil), sondern auch um den langfristigen Einfluss der IT-Nutzung. Nach meinen Ausführungen in diesem Artikel sollte jeder Leserin und jedem Leser klar sein, dass Daten hier eine ganz besondere Rolle spielen.

Ich berate deswegen meine Kundinnen und Kunden darüber, was sie selbst tun können, um möglichst wenig Daten von sich preis zu geben und damit Meinungsmanipulation nicht weiter zu unterstützen. Das Ergebnis nennt man Datensouveränität, also die Souveränität bzw. Kontrolle der Nutzerin bzw. des Nutzers über die eigenen Daten. Durch die Nutzung von IT-Systemen, die möglichst keine Daten an deren Hersteller senden, bleibt die einzelne Person Souverän der Daten. Von diesen (meist Open-Source-)Systemen gibt es heute für nahezu alle Anwendungsbereiche ausreichend gute Lösungen.

Jeder Schritt zählt – fangen Sie klein an – bestenfalls heute noch!

Es liegt an jeder Person selbst, wieder Frau bzw. Herr über die eigenen Daten und die IT zu werden. Dabei zählt jeder noch so kleine Schritt in die richtige Richtung. Einige davon habe ich hier im Blog beschrieben. Dazu gehören z. B. datenschutzfreundliche Suchmaschinen, eigene Dateiablage in der Cloud und datenschutzfreundliche Betriebssysteme wie z. B. Linux.

Achtung: Open-Source-Lösungen wie das auf Linux basierende Ubuntu sind nicht automatisch datenschutzkonform, sondern benötigen teils noch eine Säuberung nach der Installation. Genausowenig sind alle Ad-Blocker datenschutzfreundlich. Die Liste an empfehlenswerten Lösungen ändert sich häufig. Kommen Sie bei Fragen gerne auf mich zu, ich verfolge die aktuellen Entwicklungen.

Quellen für Informationen über den Citizen Score in China:

Edit this post on GitHub.

IT

Qwant – die aktuell interessanteste Suchmaschine

Published by Mathias Renner on 28. Juli 2018
Last updated on 3. September 2019