Felix G. Rebitschek, Projektleiter im Harding-Zentrum für Risikokompetenz am Max-Planck-Institut für Bildungsforschung, hält am 11. Oktober auf der Konferenz „Super-Scoring?“ einen Vortrag mit dem Titel „Bewertet, aber informiert sein – wie man die Risikokompetenz der Menschen für den öffentlichen Diskurs erhöht”. Wir haben Felix G. Rebitschek 7 Fragen zum Thema „Supersoring“ gestellt. 

Unter „Superscoring“ verstehen wir die Zusammenführung und Verknüpfung personenbezogener Daten aus unterschiedlichen Lebensbereichen und Quellen zur algorithmischen Erstellung eines zusammenfassenden Funktionswerts, der übergreifend menschliches Verhalten bewertet soll.

1. Wie bewerten Sie Superscoring als gesellschaftspolitisches Steuerungsinstrument?

Felix G. Rebitschek: Ohne Evidenz ausreichender Qualität kann ich zumindest annehmen: Superscoring ließe sich steuernd einsetzen, da es den Betroffenen Rückmeldung über Ihr Verhalten gibt. Große Effektstärken wären plausibel durch Belohnung oder Bestrafung. Der intendierte Steuerungscharakter gerät jedoch bei der Implementierung an seine Grenzen. Statt geplanter Effektstärken werden Nebeneffekte auftreten, die schwer zu begrenzende Auswirkungen auf große Teile der Gesellschaft haben. Jedwedes Superscoring ist experimentell und wie alle Experimente zu Beginn der Planung, v.a. unter ethischen Gesichtspunkten, intensiv auf das Verhältnis von Erkenntnisgewinn und Schadenspotenzial zu untersuchen.

2. Worin und für wen sehen Sie die größten Chancen / die größten Risiken des Superscorings?

Felix G. Rebitschek: Superscoring ist ein Instrument der Differenzierung zwischen den ‚Gescoreten‘. Unterschiede in ihrem Verhalten und Merkmalen werden durch die ‚Scorenden‘ entweder verwertet oder minimiert.

Neben Chancen für die Forschung verspricht es diese vor allem für Unternehmen, die genügend Nutzungsdaten und elektronische Identitäten verbinden, um Kunden für sich zu steuern.

Allerdings wird der Abweichler vom zugrundeliegenden Modell eines Superscoring bestraft. Obwohl jene Abweichungen die freie, vielseitige Entfaltung des Bürgers auszeichnen. Und gerade vielfältige, nicht planbare Impulse erneuern unsere Zivilgesellschaft und machen sie langfristig robuster gegenüber neuen Entwicklungen. Superscoring kann das in einer Gesellschaft, die vor allem auf ihr Innovationspotenzial angewiesen ist, gefährden. Dass alternativ ein nicht-demokratisches System, welches seine Bürger stärker steuert, zumindest zeitweise durch Superscoring geopolitisch erfolgreicher sein könnte als die westlichen Demokratien – dies kann auch Versuchungen erzeugen.

3. Mit welchen bestehenden Werten und Normen (Menschenbild) könnten Superscoring-Systeme in Konflikt geraten?

Felix G. Rebitschek: Superscoring-Systeme werden auf ausgewählte Werte und Normen hin optimiert. Die westliche Annahme, dass diese Werte und Normen einen permanenten gesamtgesellschaftlichen Diskurs widerspiegeln, stellen sie in Frage. Sie können nun auf die Wertefundamente beliebiger westlicher Demokratien blicken und sehen – Konflikte. Freiheit wäre es für jeden, nicht am Superscoring teilzunehmen und zugleich nicht benachteiligt zu werden, was der Idee eines solch umfassenden Scorings jedoch zuwiderläuft. Autonomie beispielsweise wird dann eingeschränkt, wenn Merkmale, die ich nicht steuern kann, in ein Superscoring aufgenommen werden. Diversität verliert dann an Bedeutung, wenn es eben doch Verhaltensmuster gibt, denen mehr Teilhabe als anderen zugebilligt wird. Es gibt enorme Anreize den Mustern zu entsprechen, wodurch selbst Meinungsfreiheit fragil wird.

4. Wie verändern sich Superscoring-Prozesse durch den Einsatz von Digitaltechnologien (Smartphone-Tracking, Gesichts- und Stimmerkennung usw.)?

Felix G. Rebitschek: Obwohl analoge Überwachungsmodelle möglich waren – wie etwa das System zur umfassenden Überwachung der Bevölkerung der DDR durch das Ministerium für Staatssicherheit – sind Digitaltechnologien (z.B. für das zeitnahe Feedback) integraler Mechanismus des Superscoring-Konzepts. Neue Technologien verbreitern die Merkmalsbasis und reduzieren den Scoring-freien Lebensraum drastisch. Gesichtsausdrücke ließen sich im öffentlichen Raum ebenso analysieren wie die Herzfrequenz vorbeigehender Passanten, oder auch die bebende Stimme eines Schülers.

5. Wie bewerten Sie das Zusammenspiel von Digitalwirtschaft und Politik bei einer möglichen Implementierung von Superscoring? Und dies auch auf internationaler Ebene?

Felix G. Rebitschek: Superscoring impliziert eine nahezu allumfassende Datenbasis als Ausgangspunkt – eine Marktposition, die mit einer sozialen Marktwirtschaft schwerlich zu vereinbaren ist. Die zuständigen Ministerien haben die technischen wie sozial- und geisteswissenschaftlichen Experten gehört. Die Verantwortlichen kennen also die gegenwärtigen und sich abzeichnenden Scoring-Entwicklungen, die Theorien und auch die Wünsche von wirtschaftlichen Akteuren. Politiker auf europäischer bis hin zu kommunaler Ebene werden ihre Spielräume zur Erhaltung gesellschaftlicher Wohlfahrt im Kontext ökonomischen Superscorings ausnutzen müssen. Hierbei kommt auch den Datenschutzinitiativen aus Deutschland eine bedeutende Rolle zu. Eine Auseinandersetzung um Superscoring wird mutmaßlich jede Demokratie austragen.

6. Welche Aspekte des Superscoring sollten Ihrer Meinung nach im Rahmen von konkreten Bildungsmaßnahmen behandelt werden? Wo würden Sie ansetzen?

Felix G. Rebitschek: Ein bevölkerungsweites praxisbezogenes Verständnis von Algorithmen sollte das Ziel sein. Digitale Bildung kann eben gerade nicht auf Programmiersprachen abstellen, sondern muss die den Algorithmen zugrundeliegenden Funktionskonzepte in den Blick nehmen. Wie müssen die Bürger ein Superscoring zur Verhaltensvorhersage und -steuerung prüfen, bevor sein Einsatz in Erwägung gezogen wird:

• Was ist der Zweck des Scoring-Algorithmus?
• Wie wurde dieser Zweck bislang erreicht?
• An welchem Kriterium meint man einen erfolgreichen Einsatz zu erkennen?
• Welche Folgen hat eine Fokussierung auf eben jenes Kriterium?
• Welche möglichen Nutzen und Schäden zum Algorithmeneinsatz wurden auf individueller, sozialer und gesellschaftlicher Ebene ermittelt?
• Welche Merkmale des Einzelnen werden in welchem Maße einbezogen?
• Wie gut und repräsentativ waren die Daten, mit denen der Algorithmus ‚gebaut‘ wurde?
• Welche Qualität haben die Daten, welche der Algorithmus nutzt, um zu scoren?
• Wie hoch ist die Güte und Zuverlässigkeit des Algorithmus, für alle Betroffenen, für einzelne mit bestimmten Merkmalsausprägunge?
• Wie werden Prognosefehler für die verschiedenen Fehlerarten (Übersehen; Fehlalarme) bewertet und inwieweit stimmen Betroffene dieser Balancierung zu?
• Welche Qualitäten von Fairness liegen vor?

Algorithmensouveränität könnte auf diese Weise in Schulen aber auch durch Bildungsangebote der Erwachsenenbildung angeregt werden.

7. Welche Aspekte des Superscorings sind Ihrer Ansicht nach in der öffentlichen Diskussion noch unterrepräsentiert? Welche Fragen würden sich Ihnen noch stellen?

Felix G. Rebitschek: Unterrepräsentiert sind die methodischen Fragen, wie im Vorhinein Nutzen-Schaden-Verhältnisse seines Einsatzes wissenschaftlich abgeschätzt werden.

Ferner, ist die Frage offen, inwieweit ein politisches System durch die Homogenisierung von Modellfehlern, an Stelle der Entscheidungen einzelner, destabilisiert wird. Viele Entscheidungen werden heute ausgehandelt – ob vor Gericht oder in einer Behörde. Aber unterschiedliche Fehler treten in vielen Einzelfällen auf. Sollte nun ein öffentliches Superscoring diese Aushandlungen durch einen Empfehlung-Algorithmus ersetzen, treffen systematisch die gleichen Fehler des Modells die Bürger. Erhebliche Nebeneffekte auf betroffene Gruppen wären dann zu erwarten.

Abschließend frage ich mich, wie sich die Interaktion mit statistischen Modellen auf die Informationsverarbeitung des Menschen auswirkt. Wann passen sich Menschen in Modellen implementierten Menschenbildern an und wie impft man sie dagegen?