Algo.Rules

Regeln für die Gestaltung algorithmischer Systeme

Im Rahmen unseres Symposiums Mensch-Sein mit Algorithmen haben wir uns mit der Wirkung algorithmischer Systeme auseinandergesetzt, die zunehmend routinemäßig in unserem Alltag eingesetzt werden und Entscheidungen treffen. Bei der Mächtigkeit dieser Systeme ist nicht gewährleistet, dass deren Anwendung auf Dauer nicht unser gewachsenes Sozial- und Rechtssystem unterminiert.

Mit diesen Fragestellungen hat sich die ACM bereits 2017 auseinandersetzt und die Direktive Statement on Algorithmic Transparency and Accountabilitiy  erlassen.

Das von der Bertelsmann Stiftung unterstützte iRights Lab hat in einem Konsultationsprozess einige formale Regeln erarbeitet und veröffentlicht, die sich primär an Software Entwickler richten. Ärzte und Ärztinnen haben den modernisierten hippokratischen Eid, für Journalisten gibt es den Pressekodex. Aber an welchen ethischen Richtlinien orientieren sich die Entwicklerinnen und Entwickler von Algorithmen?

Kompetenz aufbauen

Die Funktionsweise und die möglichen Auswirkungen eines algorithmischen Systems müssen verstanden werden. Diejenigen, die algorithmische Systeme entwickeln, betreiben und/oder über ihren Einsatz entscheiden, müssen über die erforderliche Fachkompetenz und ein entsprechend abgestuftes Verständnis der Funktionsweisen und potenziellen Auswirkungen der Technologie verfügen

Verantwortung definieren

Für die Auswirkungen des Einsatzes eines algorithmischen Systems muss stets eine natürliche oder juristische Person verantwortlich sein.

Ziele und erwartete Wirkung dokumentieren

Die Ziele und die erwartete Wirkung des Einsatzes eines algorithmischen Systems müssen vor dessen Einsatz dokumentiert und abgewogen werden. Vor dem Einsatz des algorithmischen Systems muss eine dokumentierte Folgenabschätzung durchgeführt werden. Insbesondere bei lernenden Systemen und in dynamischen Einsatzfeldern mit viel Veränderung ist die Folgenabschätzung in regelmäßigen Abständen zu wiederholen.

Sicherheit gewährleisten

Die Sicherheit eines algorithmischen Systems muss vor dessen Einsatz getestet und fortlaufend gewährleistet werden. Sicherheit muss von Anfang an festes Element der Gestaltung des algorithmischen Systems sein (Security by Design).

Kennzeichnung durchführen

Der Einsatz eines algorithmischen Systems muss gekennzeichnet sein. Algorithmischer Systeme müssen durch eine entsprechende Kennzeichnung für Personen, die mit ihnen interagieren, erkennbar sein, dass der Entscheidung oder Prognose ein algorithmisches System zugrunde liegt. Das gilt besonders dann, wenn das System einen Menschen in Art und Weise der Interaktion (Sprache, Aussehen etc.) imitiert.

Vollziehbarkeit sicherstellen

Die Entscheidungsfindung eines algorithmischen Systems muss stets nachvollziehbar sein.

Beherrschbarkeit absichern

Ein algorithmisches System muss während seines gesamten Einsatzes gestaltbar sein und bleiben. Damit ein algorithmisches System gestaltbar bleibt, müssen alle Personen, die an seiner Entwicklung und seinem Einsatz beteiligt sind, gemeinsam stets die Kontrolle über das System behalten. Dabei muss sichergestellt werden, dass der Gesamtüberblick über das System stets gewahrt bleibt, auch wenn Aufgaben zwischen unterschiedlichen Personen und Arbeitsbereichen verteilt sind. Die Arbeitsweise eines Systems darf niemals so komplex und undurchschaubar werden, dass es von Menschen nicht mehr beherrschbar ist oder nicht mehr geändert werden kann.

Wirkung überprüfen

Die Auswirkungen eines algorithmischen Systems müssen regelmäßig überprüft werden.

Beschwerden ermöglichen

Fragwürdige oder die Rechte einer betroffenen Person beeinträchtigende Entscheidungen eines algorithmischen Systems müssen erklärt und gemeldet werden können.

Der vollständige Text findet sich unter.

https://algorules.org/

---