Erklaerbare-Ki
Feministische KI
Wenn Künstliche Intelligenz diskriminierenden Output erzeugt, dann reproduziert sie bestehende Ungleichheiten. Gleichzeitig finden die Systeme immer häufiger auch in sensiblen Bereichen des öffentlichen Sektors Anwendung und prägen die Entscheidungsfindung. Damit wächst die Bedeutung, fairere Systeme zu entwickeln. Unter Feministischer KI werden Mechanismen und Ansätze zusammengeführt, damit technologische Systeme sowohl fairer als auch transparenter und inklusiver werden.
Erklärbare KI - Vertrauen schaffen am Beispiel des persönlichen Inflationsrechners des Statistischen Bundesamts
Transparenz ist in der öffentlichen Verwaltung unerlässlich, um das Vertrauen der Bürger:innen in digitale Lösungen zu stärken. Obwohl KI die Digitalisierung erheblich voranbringen könnte, wird ihre Akzeptanz durch die Intransparenz der Technologie erschwert. Ein Forschungsprojekt zeigt, wie die digitale Transformation vertrauenswürdig und bürgernah gestaltet werden kann.
Fairness-Metriken
Algorithmen beeinflussen immer mehr Entscheidungen für und über Menschen, etwa bei der Vergabe von Krediten, Empfehlungen im Netz sowie bei personalisierter Werbung und Preisen. Doch wie kann die Gerechtigkeit solcher Entscheidungen gewährleistet werden, also z. B. Diskriminierung aufgrund von Ethnie oder Geschlecht vermieden werden? Bei Fairness-Metriken handelt es sich um einen technischen Lösungsansatz für dieses Problem, der zurzeit stark vorangetrieben wird. Was können solche Fairness-Metriken leisten und welche Limitationen existieren? Und wie können sie eingesetzt werden, um tatsächlich einen Teil der Lösung darzustellen?