powered by TEMPTON

Irgendwo mitten im Internet

Social Ratings: Sturzflug in die Zukunft.

gepostet von am

Die Wundermaschinerie Big Data: Hardware wird immer leistungsfähiger, dazu überregional verknüpft, heterogene Datenquellen kontextualisiert und das mindestens in Echtzeit und am besten gestern. Die Schattenseite: Bei allen Chancen, die sich bieten, bringt die Technologie eben auch institutionelle Versuchungen mit sich – wirtschaftlich wie politisch. Zeit für einen Blick auf das neueste kolportierte Übel aus dieser digitalen Büchse der Pandora: Die Sozialbewertungssysteme.

Meow Meow Beanz aus Community

Wie könnte man diesem UI widerstehen? Social-Rating-App aus NBC's Community. Screenshot, S05E08.

Die Sonne scheint keck und ungetrübt ob der zwischenmenschlichen Grautöne, die sich unter ihr auftun. Die Kulisse ist geprägt von scheinbar wunschlos glücklichen, an den Außentischen des durchgeplant systemgastronomischen Cafés sitzenden Menschen. Strahlendes Lächeln, soweit das Auge reicht. Wahrscheinlich liegt der Duft von frischem, hip baristetem Morgenkaffee in der Luft. Pastellfarbenes Licht umhüllt die Szenerie wie eine Persenning aus hauchdünner Seide. Die handlich-anschmiegsamen Smartphones, die jeder der Anwesenden in der Hand hält, sind kaum noch als Fremdkörper zu bezeichnen, wirken im Gegenteil eher wie lebenswichtige Prothesen.

So weit, so normal.

Düstere Aussichten?

Was die beschriebene Szene und die gesamte Black Mirror-Episode “Nosedive” vielerorts medial erst so richtig prophetisch wirken ließ: Alle Menschen bewerten appbasiert ihre Interaktionen in einem Fünf-Sterne-System. Dadurch hat jede Person einen aggregierten Social Score, der verschiedene, teils schwerwiegende soziale Implikationen mit sich bringt – und ein solch gleichermaßen beunruhigendes wie orwellsches System dichtete man vielerorts China an, als 2014 Nachrichten über eine Regierungsvorlage mit dem Titel “Leitfaden für die Etablierung eines Sozialkredit-Systems bis 2020” in die westliche Hemisphäre schwappten. Doch was ist dran an diesem gefundenen Fressen für technokritische Kulturpessimisten?

Reflexion, die sich lohnt

Die chinesische Regierung baut mit ihrem Entwurf auf die Steigerung von vier Kernfaktoren: der Aufrichtigkeit in Regierungsangelegenheiten, der geschäftlichen und der sozialen Integrität sowie der gerichtlichen Glaubwürdigkeit. Bürger, Beamte und sogar ganze Kommunalregierungen landen als Sanktionierungsmaßnahme auf einer schwarzen Liste, wenn sie sich der Strafverfolgung entziehen und ausstehenden (Geld-)Strafen ausweichen. Die Folge: Flüge außer Landes, der Kauf von Luxusgütern auf bestimmten Shopping-Plattformen, die Aufnahme von Krediten oder die Anstellung im Staatsdienst werden damit tabu, bis die Betroffenen ihre ausstehenden Leistungen beglichen haben und von der Blacklist gestrichen werden. Angestoßen wird das vom obersten chinesischen Gerichtshof und nicht von Regierungsbehörden oder gar privaten Drittfirmen.

Alternativtext
China in einem Bild: Kommunismus, Courage, Social Ratings, Technologie, Zensur und der Humor, das alles unter einen Hut zu bringen. (Foto: Pixabay, Montage: DM)

Damit wird klar: Das übergeordnete Ziel ist die Betrugsbekämpfung und die institutionelle Festigung in einem Land, in dem ein umfassender Rechtsstaat, Korruptionsbekämpfung und Strafverfolgung noch auf wackligen Füßen stehen. Oder, frei nach der Washington Post: Treffender wäre es, statt von einem “Sozialkreditsystem” von einem “Bonusprogramm für Vertrauenspunkte” zu sprechen – Payback statt Schufa! Es gibt kein einheitliches System, im Gegenteil, Wirtschaft und Politik verfolgen regional unterschiedlich über 20 verschiedene Individuallösungen. Mit Pilotprogrammen lotet man gesetzliche Rahmenbedingungen aus und evaluiert die Wirksamkeit der Ansätze. Einen einheitlichen numerischen Social Score gibt es in diesem System dagegen (noch) nicht.

Die Suche nach der Wahrheit oder: Dynamitfischen im Nebel

Solche Überlieferungen entstehen in der laufenden Berichterstattung oft aus einer Vermischung der Systeme kommerzieller Anbieter, die mit ähnlichen Problematiken zu kämpfen haben. Wohl prominentestes Beispiel dafür: das fernöstliche Amazon-Pendant Alibaba. Als der Konzern Anfang der 2000er-Jahre in den E-Commerce-Markt vorstieß, war China quasi Bargeldland und Kreditkarten noch Mangelware. Mit Alipay musste man ergo erst einmal eine eigene Zahlungsinfrastruktur aus dem Boden stampfen, um bargeldlosen und unmittelbaren Geldverkehr für den (in der rasant erblühenden chinesischen Wirtschaft) florierenden Online-Handel zu ermöglichen. Um das Vorkommen von Fake-Accounts und Betrug zu schwächen, wurde mit Sesame Credit schließlich ein eigener Scoring-Dienst ausgelagert, der einen aggregierten Schätzwert für seine (freiwillige) Nutzerschaft erstellt. Dieser setzt sich aus Faktoren wie der Größe des eigenen Netzwerks als Indikator für “ist wirklich ein Mensch”, Anzahl der erfolgreichen (Kreditrück-)Zahlungen und – ab und zu auch genannt, aber nicht gesichert – der Art der gekauften Produkte zusammen. Das System funktioniert dabei in beide Richtungen – negative Sanktionierung und positive Verstärkung. Fristgerechte Handlungen, positive Community-Bewertungen, verantwortungsvoller Konsum (Windeln sind ja wertvoller als Videospiele) und so weiter und so fort. Die Folge: Je besser der Score, desto besser rabattiert und größer das Angebot. Im Sinne des neuen Regierungsbeschlusses ist aber auch eine Weitergabe an die Behörden geplant – der aktuelle Stand ist allerdings wie immer: unklar.

Stock Photo NFC Kreditkarte

Bargeldlose Bezahlung gewinnt gerade in China immer mehr an Bedeutung. Foto: Pixabay.

Man sieht: Anlass zu reflektierter Kritik gibt es natürlich trotz all der Verzerrungen. Wenn das Scoring auf staatlicher Ebene dazu führt, dass auch unbescholtenen Dritte in ihren Möglichkeiten eingeschränkt werden – etwa im Falle von Kindern, die bestimmte Schulen aufgrund des Blacklistings ihrer Eltern nicht besuchen dürfen – dann läuft schief, was schieflaufen kann. Noch signifikanter wird es, wenn das Scoring für systemische Schwächen bestraft, für die das Individuum nur wenig kann: Die Washington Post berichtet etwa von einem der ersten klar intervallbasierten Bewertungssysteme (von A bis D) in der Jiangsu-Provinz, das seine Einwohner bei der Einführung absteigend von A bis D benotete und dort auch politische Faktoren wie Punktabzüge für nicht zugelassene Demonstrationen anführte. Das ist ohnehin bedenklich, gewinnt aber unter der Oberfläche eine weitere negative Dimension: Gerade wegen des hohen Misstrauens der chinesischen Bevölkerung gegenüber den Kommunalregierungen sind Demonstrationen oder Petitionen in der Hauptstadt ein probates Mittel, um die zentralistische Führung auf kommunal potenziell marginalisierte Missstände aufmerksam zu machen. Hier stehen sich ein Vertrauensscore für die Bevölkerung und eine Eindämmung der Korruption also diametral gegenüber. Aber nichts ist ewig: Einen öffentlichen Aufschrei später wurde das System überarbeitet und zumindest dieser politische Faktor abgeschafft.

Das chinesische Modell als Mischung aus Schufa, Zuverlässigkeits-Bewertung aus staatlicher Perspektive und ein Bonussystem auf Konsumentenseite ist natürlich noch ein paar Schritte von einer dystopischen Skizze a la Black Mirror entfernt. Bis zu einer direkten Bewertung der Individuen untereinander mit allen damit verbundenen Implikationen wird hoffentlich noch etwas Wasser Jangtse und Rhein hinunterfließen. Dass sich die sozialen und wirtschaftlichen Effekte der verschiedenen bereits vorhandenen Teilsysteme in diese Richtung bewegen, ist allerdings auch nicht zu verleugnen.

Frau mit Hund in Zelt, Black Mirror guckend
Big Data: Segen, weil wir damit auch Stockphotos finden. Fluch, weil es derer kaum sinnvolle für das Stichwort gibt. (Foto: Pixabay)

Big Data – Fluch und Segen

Dass es an der Oberfläche noch nicht den völlig gläsernen Bürger zu geben scheint – sei es in China oder anderswo – heißt natürlich nicht, dass das nicht theoretisch möglich wäre. Die dafür nötige Vielzahl heterogener Quellen, etwa Kranken- oder Gerichtsakten, biometrische Ausweisfotos samt Gesichtserkennung, Postings auf sozialen Medien, Kaufverhalten und so weiter und so fort, sind auf jeden Fall verfügbar und “dank” Big-Data-Ansätzen samt immer raffinierteren Datenmodellen ist auch ihre kontextuelle Verknüpfung längst kein Ding der Unmöglichkeit mehr.

Es schockiert gefühlt kaum noch jemanden, dass derlei Daten von einzelnen Parteien bereits umfassend erhoben und genutzt werden. Ein beliebtes Beispiel: Wie die US-amerikanische Supermarktkette “Target” von der Schwangerschaft eines Teenagers erfuhr, bevor es ihr Vater tat. Und das ist noch ein verhältnismäßig insignifikantes Beispiel: Amazon, Facebook, Google – auch in der westlichen Hemisphäre mangelt es wahrlich nicht an Akteuren, die in ihren Hinterzimmern potenziell schon die nötigen Fäden ziehen, ohne dass es die Betroffenen mehrheitlich noch allzu groß schockieren würde. Die Krankenversicherung wird günstiger, wenn man einen Fitnesstracker trägt und das eigene KfZ dann, wenn man seinen Fahrstil digital protokolliert. Das hat Vor- aber auch ganz klare Nachteile: Doch diese Abstriche der Big-Data-Kultur nimmt man oft hin, wenn dafür das Problem des Handlungsreisenden effizienter gelöst werden kann und damit die nächste Online-Bestellung früher an der eigenen Haustür eintrifft. Das ist auch kein Problem, solange alles freiwillig und – nicht minder wichtig – transparent abläuft: Welche Daten werden erhoben? Werden sie sicher auf regionalen Servern aufbewahrt? Gibt man sie an Dritte weiter? An Fragen mangelt es wahrlich nicht.

Frauensillhouette spiegelt sich in iMac
Witze sind bekanntlich am besten, wenn man sie erklärt. Hier nochmal kurz, warum die Serie "Black Mirror" heißt. (Fotos: Pixabay, Montage: D. Martin)

Und vor unserer eigenen Haustür?

Diese anekdotisch gefühlte Akzeptanz findet sich in Teilen auch in einer repräsentativen Studie wieder, von der die Computerwoche berichtet: Zwar würden nur knapp 20 % der Bevölkerung ein soziales Bewertungssystem wirklich befürworten, die prinzipielle Idee allerdings, das Verhalten seiner Mitmenschen zu beurteilen und sich selbst einer Beurteilung zu unterziehen, wird demnach deutlich positiver aufgefasst. Vielleicht nicht kurz- und mittelfristig, aber langfristig sind umfassende Bewertungssysteme definitiv vorstellbar, ob mit institutionellem oder kommerziellem Hintergrund, sei einmal dahin gestellt. Und das auf die eine oder andere Art der technologische Fortschritt dafür eine Rolle spielen dürfte, wird auch ein Blick in die trübste Kristallkugel in aller Klarheit ergeben. Die Displays unserer Smartphones sind schließlich jetzt schon nur selten die Black Mirrors, die sie im ausgeschalteten Zustand zum Namensgeber für die Serie machen. Aber genug der pastelligen Schwarzmalerei: Bei allen Herausforderungen, die uns noch erwarten, auf die Chancen sind wir natürlich schon gespannt!

PS: Übrigens hat schon zwei Jahre vor Black Mirror eine Serie die Social-Rating-Zukunft scharfzüngig aufs Korn genommen, wenn auch auf eine deutlich lockerere und humanistischere Art. Die betreffende Folge aus NBCs Community ist auf jeden Fall einen Blick wert.