Datengedanke 1 - Wen würden Sie entscheiden lassen?

Algorithmische Systeme setzen Entscheidungen um, sie definieren keine selbst.

Viel uninformierte Aufregung besteht darüber, ob algorithmische Systeme Entscheidungen über Menschen treffen dürfen. Teilen seelenlose Maschinen der Menschheit in der Zukunft Lebenschancen zu?

Die Debatte wird in der juristischen Community unter der Abkürzung ADM - automated decision making - geführt. Diese Bezeichnung suggeriert einen Sachverhalt, der faktisch nicht vorliegt. Technische Systeme treffen keine Entscheidungen. Ein technisches System hat aus philosophischer Sicht nicht die Voraussetzungen, verfügt weder über eigene Ziele noch über Handlungsoptionen. Technisch spult ein System einfach seine Handlungsanweisungen ab.

Es sind Menschen, die technische Systeme einsetzen, um Prozesse im Digitalen zu automatisieren. Dabei werden die genauen Handlungsanweisungen, mit denen das System einen Input behandelt, festgelegt. Teile dieser Handlungsanweisungen können auf statistischen Größen beruhen. Die Ermittlung der Methodik zur Schätzung dieser Größen erfolgt während der Systementwicklung meistens in Form von Induktion auf Daten. Ein wesentlicher Bestandteil ist der Umgang mit der Ausgabe eines Systems. Wie Douglas Adams so wunderbar in Hitchhikers Guide to the Galaxy mit der Zahl 42, als Antwort eines Supercomputers auf die Frage „nach dem Leben, dem Universum und dem ganzen Rest“, demonstrierte: eine Ausgabe allein ist wenig erhellend. Daher legen Menschen wiederum fest, wie mit der Ausgabe des Systems umzugehen ist.

Schematische Darstellung eines einfachen Systems mit dem Entscheidungs-prozesse digital automatisiert werden können.
Illustration 1: Schematische Darstellung eines einfachen Systems mit dem Entscheidungsprozesse digital automatisiert werden können.

Illustration 1 zeigt die Elemente eines einfachen digitalen "Entscheidungs"systems: Aus dem Input wird zunächst eine Wahrscheinlichkeit (Wskt.) berechnet. Die Berechnungsmethodik wird via statistischem Schließen von Daten bestimmt. Abhängig vom Ergebnis der Kalkulation wird die Handlungsoption ausgewählt. Hier finden Regelbäume Anwendung. Die Anzahl an Optionen bestimmt der Anwendungsfall. Die Schwellenwerte für die Wahrscheinlichkeit, ab der eine Option gilt, werden im Allgemeinen über Domainwissen oder Simulation bestimmt. Beispiele sind: Brustkrebswahrscheinlichkeit 30%, zweiter Test; Kreditausfallwahrscheinlichkeit < 1%, Kredit möglich; Regenwahrscheinlichkeit 60%, Schirm mitnehmen.

Digitale Systeme setzen menschliche (und damit institutionelle) Handlungsvorgaben effizient um. Mehr nicht.

Autorin: Christin Schäfer

Erscheinungsdatum: 20.03.2020