Gerechtigkeit
Wie Generative-KI-Modelle auf Fairness getestet werden können
Wie fair sind generative KI-Modelle? Unser Demonstrator zeigt Schritt für Schritt, wie sich Fairness quantifizieren lässt: Aus wiederholten Prompts entstehen Stichproben, deren Verteilungen mit einer definierten fairen Verteilung verglichen werden. Visualisierte Abweichungen, klare Metriken – mit Beispielen von GPT, Claude, Gemini und Grok.
Fairness-Metriken
Algorithmen beeinflussen immer mehr Entscheidungen für und über Menschen, etwa bei der Vergabe von Krediten, Empfehlungen im Netz sowie bei personalisierter Werbung und Preisen. Doch wie kann die Gerechtigkeit solcher Entscheidungen gewährleistet werden, also z. B. Diskriminierung aufgrund von Ethnie oder Geschlecht vermieden werden? Bei Fairness-Metriken handelt es sich um einen technischen Lösungsansatz für dieses Problem, der zurzeit stark vorangetrieben wird. Was können solche Fairness-Metriken leisten und welche Limitationen existieren? Und wie können sie eingesetzt werden, um tatsächlich einen Teil der Lösung darzustellen?
Sind Smart Cities gerecht?
Digitale Daseinsvorsorge soll die Teilhabe von Bürger:innen am Prozess der Digitalisierung gewährleisten. Ralf Schüle entwickelt mit Kolleg:innen des BBSR einen Ansatz digitaler Gerechtigkeit, der sowohl Vorschläge für eine eigene Strategieentwicklung formuliert als auch als Instrument zur (Selbst-)Reflexion und (Selbst-)Evaluation gerechter Digitalisierung dient.