Umfrage: Ethische Kriterien für Algorithmen
Die Bertelsmann Stiftung und das iRights.Lab haben eine Onlineumfrage zu Gütekriterien für algorithmische Systeme gestartet. Dabei geht es unter anderem darum, Nutzen und Anwendbarkeit einzelner Kriterien zu bewerten sowie mögliche Anreize und Sanktionen vorzuschlagen. Folgende Kriterien stehen zur Diskussion:
1. Kompetenz aufbauen
Die Funktionsweisen und Wirkungen von Algorithmen müssen verstanden werden.2. Verantwortung zuweisen
Für die Wirkungen eines algorithmischen Systems muss eine natürliche Person verantwortlich sein.3. Ziele und erwartete Wirkung nachvollziehbar machen
Die Ziele und die erwartete Wirkung eines Algorithmus müssen nachvollziehbar gemacht werden.4. Sicherheit gewährleisten
Der Einsatz von algorithmischen Systemen muss sicher sein.5. Transparenz erhöhen
Der Einsatz eines algorithmischen Systems muss gekennzeichnet sein.6. Beherrschbarkeit sichern
Der Einsatz von algorithmischen Systemen muss beherrschbar sein.7. Wirkung überprüfen (lassen)
Die Auswirkungen eines algorithmischen Systems auf den Menschen müssen regelmäßig überprüft werden.8. Korrigierbarkeit herstellen
Entscheidungen eines Algorithmus dürfen nie unumkehrbar sein.
Die Umfrage erfolgt im Rahmen des #algorules-Projekts, in dem ethisch vertretbare Kriterien für gesellschaftlich relevante Algorithmen entwickelt werden. Als Vorbilder dienen bestehende professionsethische Regelwerke wie der Hippokratische Eid oder der Pressekodex. Zur Umfrage geht es über die Websites der beteiligten Institutionen (iRights.Lab oder Bertelsmann Stiftung).