Wie Generative-KI-Modelle auf Fairness getestet werden können
Der Demonstrator ist unter https://tools.oeffentliche-it.de/faire-ki verfügbar.
Wie fair sind generative KI-Modelle? Unser Demonstrator zeigt Schritt für Schritt, wie sich Fairness quantifizieren lässt: Aus wiederholten Prompts entstehen Stichproben, deren Verteilungen mit einer definierten fairen Verteilung verglichen werden. Visualisierte Abweichungen, klare Metriken – mit Beispielen von GPT, Claude, Gemini und Grok.
Veröffentlicht:
Verwandtes
KI-Agenten
KI-Agenten sind Softwareprogramme, die in ihrer gewählten Umgebung autonom handeln. Ein altes Konzept, dem durch Fortschritte in der Entwicklung generativer Künstlicher Intelligenz aktuell neues Leben eingehaucht wird. Doch wie funktionieren KI-Agenten? Was ist ihr Potenzial für die öffentliche Verwaltung und welche Limitationen gilt es dabei im Blick zu behalten?
Kann eine KI »verstehen« oder: »Wissen wir, wie lange Krokodile leben?«
Dieser Gastbeitrag zeigt, wie KI immer ausgefeilter wird, aber oft an Nuancen menschlichen Denkens und Fühlens scheitert. Was heißt es zu verstehen, und kann eine Maschine jemals echtes Einfühlungsvermögen erlangen? Mit Hilfe von Alltagsbeispielen zeigt der Autor, warum Datenverarbeitung nicht automatisch Verstehen bedeutet und wo die KI an ihre Grenzen stößt.
Kompetenzen für generative Künstliche Intelligenz - Folge 41
Generative Künstliche Intelligenz wird auch in der öffentlichen Verwaltung zunehmend genutzt. Warum es sinnvoll ist, von Beginn an die Kompetenzen innerhalb der Organisation konsequent mitzudenken, welche Vorteile ein rollenbezogener Ansatz bietet und welche weiteren Faktoren die Kompetenzanforderungen beeinflussen, erläutern Maximilian Kupi und Nicole Opiela im Podcast.