Dirk Helbing ist Professor für Computational Social Science an der ETH Zürich. Seine aktuellen Studien diskutieren global vernetzte Risiken und die digitale Gesellschaft. An der Delft University of Technology leitet er das Doktorandenprogramm „Engineering Social Technologies for a Responsible Digital Future“. Er ist zudem gewähltes Mitglied der Deutschen Akademie der Wissenschaften.

Unter „Superscoring“ verstehen wir die Zusammenführung und Verknüpfung personenbezogener Daten aus unterschiedlichen Lebensbereichen und Quellen zur algorithmischen Erstellung eines zusammenfassenden Funktionswerts, der übergreifend menschliches Verhalten bewertet soll.

1. Wie bewerten Sie Superscoring als gesellschaftspolitisches Steuerungsinstrument?

Dirk Helbing: Die Idee hört sich zunächst plausibel an, weil sie so einfach ist, aber in Wirklichkeit ist sie gerade deswegen eine sehr schlechte Idee. Für Datenschützer ist die Verknüpfung personenbezogener Daten ein Albtraum. Schlimmer noch, es ist, als hoffte man mit dem Score die Menschen in Marionetten zu verwandeln, um die Gesellschaft nach Belieben formen zu können.

Menschen in ihrer Komplexität durch eine einzige Zahl zu repräsentieren, verstößt zutiefst gegen die Menschenwürde. Die ganze Welt auf eine eindimensionale Skala abbilden zu wollen ist, um sie damit zu steuern, kann nur katastrophal enden. Schon der Kapitalismus 1.0, wie wir ihn kennen, ist mit dem eindimensionalen Geldsystem gescheitert, die Zukunftsprobleme der Menschheit rechtzeitig zu lösen. Es an der Zeit, ein multi-dimensionales Feedbacksystem zu schaffen. Wir arbeiten an einem solchen sozio-ökologischen Finanzsystem, das wir Finance 4.0 oder FIN+ nennen. Es verbindet Messungen anhand des Internets der Dinge mit lokalen Echtzeitfeedbacks, so dass die Koordination
und (Selbst-)Steuerung komplexer Systeme unterstützt, und eine ressourcenschonende Kreislaufwirtschaft gefördert werden können, und zwar demokratisch und partizipativ.

2. Worin und für wen sehen Sie die größten Chancen / die größten Risiken des Superscorings?

Dirk Helbing: Staat und Unternehmen, insbesondere Versicherungen, werden versuchen, Menschen zu steuern, gewissermaßen also digital herumzukommandieren. Am Ende werden die Menschen damit beschäftigt sein, Scoringsysteme zu befolgen oder auszutricksen. Superscoring ist eine Form von technologischem Totalitarismus, der eigenverantwortliche Bürger in Untertanen zu verwandeln versucht, die zentralistische Vorgaben erfüllen sollen, um Zugang zu wichtigen Ressourcen und Dienstleistungen zu erhalten. Kreativität, Innovation, Flexibilität und Eigeninitiative werden dadurch eher bestraft als gefördert. Das wäre sicher nicht gut für die Welt.

Superscoring erweckt den Anschein, totale Gerechtigkeit auf der Basis einer objektiven Vermessung alles Handelns zu kreieren. Im Grunde genommen ist es aber nichts anderes als eine Art „digitales Jüngstes Gericht“, das auf Willkür beruht, denn die Gewichtung der verschiedenen Faktoren im Superscore könnte auch ganz anders gewählt werden. Egal, für welche Gewichte man sich entscheidet, sie sind immer für die einen von Vorteil und für andere zum Nachteil, und somit ungerecht. Superscoring ist gnadenlos gegenüber individuellen Schwächen und nutzt individuelle Stärken nicht. Es schert alle über denselben Kamm und bewirkt Gleichschaltung, statt Diversität als Chance zu nutzen.

3. Mit welchen bestehenden Werten und Normen (Menschenbild) könnten Superscoring-Systeme in Konflikt geraten?

Dirk Helbing: Erstens mit der UN Menschenrechtskonvention, insbesondere dem Recht auf Privatsphäre, zweitens mit dem Grundgesetz, insbesondere der Menschenwürde und informationellen Selbstbestimmung, drittens mit den Werten einer aufgeklärten Gesellschaft und viertens mit fundamentalen religiösen Grundprinzipien, die den Menschen als schöpferisches Wesen sehen, das Gott gegenüber Rechenschaft schuldig ist und nicht einem KI-basierten Pseudogott.

Soweit ich es zurückverfolgen konnte, haben das Superscoring und einige andere Verfahren der digitalen Verhaltens- und Gesellschaftssteuerung ihren Ursprung in der Geheimdienstwelt und im Faschismus, während der Zivilgesellschaft der Zugang zu Daten und leistungsfähigen Technologien zur partizipativen Lösung der Zukunftsprobleme weitgehend vorenthalten wird. Ich sehe die derzeitige Entwicklung als Vorstufe zu einer „Revolution von oben“, wie sie der Club of Rome gefordert hat. Sie soll durch Probleme wie den Klimawandel gerechtfertigt werden. Im Grunde genommen handelt es sich aber um einen bewussten Rückbau der Demokratie und Menschenrechte. Sie wird von einer kleinen gesellschaftlichen Elite vorangetrieben, die eine globale Kontrolle der Menschheit wünscht.

4. Wie verändern sich Superscoring-Prozesse durch den Einsatz von Digitaltechnologien (Smartphone-Tracking, Gesichts- und Stimmerkennung usw.)?

Dirk Helbing: Mit der beinahe flächendeckenden Nutzung von Smartphones wird eine Massenüberwachung der Gesellschaft möglich. Wie von CIA-Geheimdienstmann Gus Hunt 2013 gesagt wurde, sind wir im Prinzip schon eine wandelnde Sensorplattform, und beinahe alle menschengenerierten Daten werden von Geheimdiensten prozessiert und ausgewertet. Es droht die Ablösung von Demokratien und anderen Gesellschaftsformen durch eine Big-Data-getriebene und KI-kontrollierte Gesellschaft, die von Geheimdiensten statt von gewählten Politikern, kundigen Wissenschaftlern und einer aktiven Zivilgesellschaft gesteuert werden. Angesichts der über jeden Menschen angehäuften Datenmengen wäre im Prinzip von heute auf morgen eine totalitäre Gesellschaft möglich. Das ist keineswegs hypothetisch. Denken Sie beispielsweise an das, was in der Türkei nach dem Putschversuch passierte.

5. Wie bewerten Sie das Zusammenspiel von Digitalwirtschaft und Politik bei einer möglichen Implementierung von Superscoring? Und dies auch auf internationaler Ebene?

Dirk Helbing: Die Implementation wurde schon vor Jahren auf den Weg gebracht, wie beispielsweise das Karma Police Programm des britischen Geheimdienstes GCHQ zeigt. In diese Systeme wurden dutzende von Milliarden Euro Steuergelder investiert, während man die zivilgesellschaftliche Digitalisierung sträflich vernachlässigt hat. Staat, Geheimdienste und Privatwirtschaft sind im Grunde eine Allianz eingegangen, die von monetären und Macht-Interessen getrieben ist, sich aber de Facto gegen die Interessen der Bürger richtet. Durch die Unvereinbarkeit der anlasslosen Massenüberwachung mit der Menschenwürde, die mehrfach von höchsten Gerichten festgestellt wurde, hat diese Allianz den Boden des Grundgesetzes verlassen. Der Schutz der Menschenwürde müsste eigentlich die höchste politische Priorität sein und jede Verletzung, auch durch Dritte und im Ausland, müsste unterbunden werden. Mit der Vernachlässigung dieses Grundsatzes verliert das politische System nach und nach seine Legitimation.

6. Welche Aspekte des Superscoring sollten Ihrer Meinung nach im Rahmen von konkreten Bildungsmaßnahmen behandelt werden? Wo würden Sie ansetzen?

Dirk Helbing: In erster Linie muss das Bewusstsein dafür gestärkt werden, dass man kein komplexes System adäquat durch eine Zahl abbilden kann, sondern dass dies eine unsachgemäße Vereinfachung ist, die dem System Gewalt antut, statt ihm Gerechtigkeit widerfahren zu lassen. Auch lassen sich Dinge wie Menschenwürde, Kreativität und Liebe, die für das Menschsein eine besondere Bedeutung haben, quantitativ nicht angemessen repräsentieren. Sie drohen in einer datengetriebenen Gesellschaft unter die Räder zu kommen. Generell ist es nicht mit Menschenwürde vereinbar, den Menschen ständig, überall und gesamthaft vermessen zu wollen, ihn dem Wirken von Algorithmen zu unterwerfen, schon gar nicht solchen, die nicht transparent sind, oder ihm die Gelegenheit verwehren, bei der Gestaltung der gesellschaftlichen Rahmenbedingungen mitzuwirken.

7. Welche Aspekte des Superscorings sind Ihrer Ansicht nach in der öffentlichen Diskussion noch unterrepräsentiert? Welche Fragen würden sich Ihnen noch stellen?

Dirk Helbing: Generell ist es den Bürgerinnen und Bürgern nicht ausreichend klar, in welchem Ausmaß sie vermessen und bewertet werden und welche Konsequenzen das auf ihr Leben haben kann. Den Softwareingenieuren scheint nicht bewusst zu sein, dass sie Dinge tun, die mit Menschenwürde nicht vereinbar sind und Experimente am Menschen ohne ausreichenden „informed consent“ durchführen, die wahrscheinlich sogar die Nürnberger Gesetze verletzen.

Außerdem ist zu beachten, dass man die Menschenwürde nicht mit der Akzeptanz von Nutzungsbedingungen abtreten kann. Die Politik hat das Ausmaß des Problems scheinbar noch nicht ausreichend erfasst und den erforderlichen Schutz der Menschenwürde bisher nicht gewährleistet. Sie ist vielmehr der Versuchung erlegen, Methoden, die aus der psychologischen Kriegsführung hervorgegangen sind, für die Gesellschaftssteuerung und für Social Engineering zu nutzen, obwohl die Anfänge dieser Ansätze auf die Nazis zurückgehen. Wir müssen dringend Maßnahmen ergreifen, um die informationelle Selbstbestimmung und die Menschenwürde im digitalen Zeitalter wieder herzustellen, sonst droht uns ein neufeudalistisches digitales Kontrollsystem. Was zu tun ist, ist in diesem Blog kurz und knapp zusammengestellt.

Herzlichen Dank!