Anfang April 2019 hat AlgorithmWatch mit Unterstützung der Bertelsmann Stiftung und Mozilla den „Atlas der Automatisierung“ in Berlin vorgestellt. Der Atlas liefert einen Überblick über den Einsatz teilhaberelevanter ADM-(Automated-Decision-Making)Systeme in Deutschland und zeigt, wie bereits der Alltag mit automatisierten Entscheidungen durchsetzt ist.

Anhand einer Sammlung relevanter Themen (Arbeit, Gesundheit & Medizin, Internet, Sicherheit und Überwachung, Bildung, Aktienhandel, Stadt und Verkehr) wird der zentralen Frage nachgegangen, „ob ADM gesellschaftliche Teilhabe beeinträchtigt oder fördert“ (Atlas der Automatisierung, S. 8).

ADM kommt vor allem im Onlinehandel und im Kreditgeschäft zum Einsatz. Konsumenten werden durch Scoringverfahren nach bestimmten kombinierbaren Kriterien klassifiziert und erhalten einen Score, der beispielsweise die Preisgestaltung oder die Kreditvergabe beeinflussen kann. Dies kann dazu führen, dass bestimmte Konsumentengruppen benachteiligt werden. Beispielsweise setzt die Arbeitsagentur sog. PP-Tools zur softwaregestützten Beurteilung der Arbeitsmarktchancen der Kund(inn)en ein, wobei unklar sei, auf welche Weise dies geschieht. Die dabei auftretenden Probleme werden mit Verweis auf das Beispiel des österreichischen Arbeitsmarkservice thematisiert.

Das Projekt möchte eine gesellschaftliche Auseinandersetzung über die Folgen von ADM-Systemen anstoßen und die Aufmerksamkeit dafür schärfen, wo der Grundsatz der Gleichbehandlung, etwa im Miet- und Arbeitsrecht, verletzt wird, oder wo es zu Diskriminierungseffekten und Benachteiligung kommen kann. Der Einsatz dieser Systeme habe einen durchaus politischen Charakter, so AlgorithmWatch, weil stets gefragt werden müsse, „inwiefern diese Systeme den Zugang zu öffentlichen Gütern und Leistungen sowie die Wahrnehmung eigener Rechte erschweren – vor allem für Menschen, die ohnehin bereits nicht besonders gut situiert sind oder als benachteiligt gelten können. In welchem Maße solchen Gruppen soziale Teilhabe ermöglicht oder verwehrt wird, halten wir für einen wesentlichen Indikator einer funktionierenden Demokratie“ (Ebd., S. 7).

In seinen Handlungsempfehlungen legt der Atlas Wert auf die Ermächtigung der Zivilgesellschaft durch den Ausbau von Bildungsangeboten. Dabei sollen die Kompetenzen der Bürger(innen) zur Einschätzung der Folgen und Potentiale von ADM-Systemen gestärkt werden, etwa durch die Entwicklung von Materialien und Programmen für die Schul-, Berufs- und Erwachsenenbildung.

Der Atlas besteht aus einem Report und einer Datenbank und ist auf Deutsch und Englisch verfügbar unter www.atlas-der-automatisierung.de.

Foto: AlgorithmWatch, CC-BY 4.0