Social Credit Systeme zwischen Ideal und Wirklichkeit

Auf dem Jahreskongresses des Chaos Computer Clubs (CCC) in Leipzig Ende Dezember 2018 hat die am Lehrstuhl für Ostasienwirtschaft Schwerpunkt China promovierende Wirtschafts- und Politikwissenschaftlerin Antonia Hmaidi einen kenntnisreichen Vortrag über das chinesische Social Credit System gehalten. Sie forscht zu ökonomischen Belohnungssystemen und war rund 19 Monate in China, u. a. im Rahmen eines Austauschprogrammes des chinesischen Kultusministeriums. Hmaidi hatte Gelegenheit, mit Wissenschaftlern, Studierenden und Bürgern über das „Social Credit System“ zu sprechen und fand heraus, dass die Mehrheit ihrer Gesprächspartner(innen) das System entweder gar nicht kannten oder ihm gleichgültig bis positiv gegenüberstanden, weil die alltägliche Überwachung ohnehin schon massiv sei.

In ihrem Vortrag hat sich Hmaidi auf 3 Systeme konzentriert und diese näher analysiert. Das zentrale System in Suining, das auf einem regelbasierten Katalog der lokalen Regierung beruhte und den Fokus auf Bestrafung legte, wurde aufgrund schlechter Bewertungen durch die Staatsmedien wieder abgeschafft. Das dezentral angelegte und durch die Regierung prämierte System in Rongcheng setzt sich aus unterschiedlichen und je nach Region, Arbeitsplatz oder sozialer Nachbarschaft besonderen Systemen zusammen. In Rongcheng erfolgt das Monitoring des individuellen Verhaltens offensichtlich zum überwiegenden Teil nicht automatisch, sondern indem sehr viele Menschen über das Verhalten anderer Menschen berichterstatten. Die einzelnen Scores werden zur nächsten höheren Ebene weitergemeldet und schließlich zu einem zentralen Score zusammengeführt. In einem Interview mit Zeit Online vom 29. Dezember 2018 bemerkte Hmaidi dazu: „Dass die chinesische Regierung ein Big-Data-System baut, das automatisiert Entscheidungen trifft, ist ein großes Missverständnis. Natürlich werden da Milliarden an Informationen gesammelt, aber die werden mehrheitlich nicht mit Machine Learning oder neuronalen Netzwerken ausgewertet. Im Rongcheng-System tun das immer noch Menschen, sie geben Daten dann an eine höhere Instanz weiter.“ Das dritte, kommerziell sehr erfolgreiche und bisher freiwillige System Sesame Credit wird vom Online-Konzern Alibaba getestet. Das chinesische Pendant zu Amazon setzt als einziges System Machine Learning und Künstliche Intelligenz ein und verwendet Social Scoring als Anreizsystem für die Nutzung ihrer Dienstleistungen und den Konsum ihrer Produkte. Konsumenten erhalten Punkte, indem sie mit dem Bezahldienst Alipay einkaufen oder Dinge über Taobao erwerben; sie verlieren aber auch Punkte, wenn sie längere Zeit nicht konsumieren oder mit dem Konkurrenzprodukt Wechat einkaufen. Es scheint auch so zu sein, dass der Score von Freunden Einfluss auf den eigenen Score hat.

Hmaidi diskutiert diese drei Systeme, weist auf die unterschiedliche Wahrnehmung in westlichen Ländern und China hin („Orwellian Dystopia“ vs. „Technology will fix it“) und erklärt, worum es der Kommunistischen Partei Chinas mit der Einführung dieser Systeme gehe, nämlich um eine effiziente und faire Zuteilung der knappen Ressourcen an „vertrauenswürdige“ Bürger(innen). Darüber hinaus lege die Führung großen Wert auf Bestrafung und Umerziehung der „Vertrauensbrecher“ im Sinne der KPCh sowie auf die schambesetzte öffentliche Zurschaustellung der „nichtvertrauenswürdigen“ Personen. Es gehe aber auch darum, mehr Bürger(inne)n Zugang zu Krediten zu ermöglichen, da nach Hmaidi erst 10 Prozent der erwachsenen Chinesen überhaupt ein Bankkonto haben und öffentliche Dienstleistungen in Anspruch nehmen. Die bisherige Verteilung von Ressourcen geschieht in China durch die sog. Guanxi-Netzwerke, in welchen sich Menschen mit gleichem sozialem Status gegenseitig Vertrauen schenken. Sie seien Ersatz für häufig fehlende formale Institutionen in China.

Besonders erwähnenswert an ihrem Vortrag ist, dass Hmaidi die gesellschaftlichen Folgen und Erfolgsaussichten dieser Systeme diskutiert und die vielen gegenteiligen Interessen und Fallstricke der Systeme problematisiert. Demnach könne die Bildung eines Scores auch von den vielen Berichterstattern an den Schnittstellen zu den Systemen abhängen, die das Verhalten von Personen nach persönlichen Sympathiewerten anstatt nach den öffentlichen Katalogen beurteilen. Auch scheinen viele der erhobenen Werte gar nicht mit dem gewünschten Verhalten zu korrelieren. Als Beispiel nennt Hmaidi, dass Chinesen einen guten Score erhalten, wenn sie an die KPCh und ihre Unterorganisationen spenden. Sie würden Kredite erhalten, obwohl sie ihren bisherigen Verpflichtungen vielleicht nicht verlässlich nachkommen. Darüber hinaus könnte es zu sozialen Wanderungsbewegungen in Regionen mit vergleichsweise moderaten Systemen kommen, in denen es einfacher ist, Punkte zu erwerben. Auch gibt es konvergierende Interessen, die nur schwer miteinander vereinbar sind. So haben Unternehmen ein Interesse daran, dass ihre eigenen Mitarbeiter hohe Scores haben, während die Lokalregierungen ein Interesse an der Vergleichbarkeit der Scores haben. Darüber hinaus könnte es zu sozialen Wanderungsbewegungen in Regionen mit vergleichsweise moderaten Systemen kommen, in denen es einfacher ist, Punkte zu erwerben. Die Folge wäre ein regionaler Wettbewerb um vertrauenswürdige Personen und eine Erosion des Vertrauens in eine zentrale, dem „Social Credit System“ zugeschriebene Funktionen, nämlich eine effiziente Ressourcenverteilung zu garantieren. Hmaidi diskutiert auch, ob öffentlich einsehbare regelbasierte Kataloge mit klaren Erwartungen zu einer größeren Verhaltensanpassung führen als algorithmenbasierte Systeme wie Sesame Credit, bei denen nicht klar ist, welches Verhalten sie eigentlich belohnen oder sanktionieren.

Hmaidi resümiert, das zentrale Systeme bisher nicht sehr erfolgreich waren. Insgesamt reproduzieren die Systeme Machtstrukturen und könnten das Vertrauen in das formale Rechtssystem weiter schwächen.

Der Vortrag von Antonia Hmaidi ist in einer deutschen Simultanübersetzung auch auf Youtube zu sehen.