Digitale Ausweichmanöver. Umgeht Social Scoring das Recht?

In einem Artikel für das US-Magazin Fast Company beschreibt Mike Elgan, wie US-Unternehmen in wachsendem Maße Social Scoring-Systeme aufbauen, um das Verhalten ihrer Kunden und Nutzer bewerten und klassifizieren und die Zugänge zu ihren Produkten und Dienstleistungen besser steuern zu können. Anhand von Nutzungsrichtlinien verschiedener Unternehmen zeigt Elgan, dass ein Verhalten, dass nicht den Unternehmens-Richtlinien entspricht, durch Social Scoring zum Ausschluss von Dienstleistungen führen kann. Was aus der Versicherungsbranche hinlänglich bekannt ist, wandert zunehmend in den Alltag ein, etwa wenn Uber-Fahrer oder Airbnb-Anbieter ihre Gäste bewerten, Bars und Restaurants ihr Publikum sortieren oder Instant-Messaging-Dienste wie Whatsapp Nutzer von ihren Dienstleistungen ausschliessen, wenn sie von zu vielen anderen Nutzern geblockt werden. Elgan betont, dass der Ausschluss von solchen Dienstleistungen durchaus gravierend sein kann, wenn keine Alternativen existieren.

Elgan beschreibt die Social Credit Systeme als „Ausweichmanöver“, die das vorhandene Rechtssystem umgehen und die Richtlinien des Silicon Valley durchsetzen:

„The most disturbing attribute of a social credit system is not that it’s invasive, but that it’s extralegal. Crimes are punished outside the legal system, which means no presumption of innocence, no legal representation, no judge, no jury, and often no appeal. In other words, it’s an alternative legal system where the accused have fewer rights.“

Elgan hält es für möglich, dass in Zukunft eine Mehrheit der Vergehen und selbst Verbrechen nicht mehr von Washington, DC, sondern durch das Silicon Valley bestraft werden: „It’s a slippery slope away from democracy and toward corporatocracy.“ Die Rechtsdurchsetzung wäre dann weniger durch Verfassung und Gesetze determiniert, als vielmehr durch Endbenutzer-Lizenzvereinbarungen.   

Elgan, Mike. Uh-oh: Silicon Valley is building a Chinese-style social credit system. Fast Company, 26 Aug 2019. https://www.fastcompany.com/90394048/uh-oh-silicon-valley-is-building-a-chinese-style-social-credit-system 3 Sep 2019.

Foto: Pixabay.com