Fairness-Metriken
Feministische KI
Wenn Künstliche Intelligenz diskriminierenden Output erzeugt, dann reproduziert sie bestehende Ungleichheiten. Gleichzeitig finden die Systeme immer häufiger auch in sensiblen Bereichen des öffentlichen Sektors Anwendung und prägen die Entscheidungsfindung. Damit wächst die Bedeutung, fairere Systeme zu entwickeln. Unter Feministischer KI werden Mechanismen und Ansätze zusammengeführt, damit technologische Systeme sowohl fairer als auch transparenter und inklusiver werden.
Fairness-Metriken
Algorithmen beeinflussen immer mehr Entscheidungen für und über Menschen, etwa bei der Vergabe von Krediten, Empfehlungen im Netz sowie bei personalisierter Werbung und Preisen. Doch wie kann die Gerechtigkeit solcher Entscheidungen gewährleistet werden, also z. B. Diskriminierung aufgrund von Ethnie oder Geschlecht vermieden werden? Bei Fairness-Metriken handelt es sich um einen technischen Lösungsansatz für dieses Problem, der zurzeit stark vorangetrieben wird. Was können solche Fairness-Metriken leisten und welche Limitationen existieren? Und wie können sie eingesetzt werden, um tatsächlich einen Teil der Lösung darzustellen?