Nachnutzung generativer KI-Systeme
Die Vorstudie untersucht Möglichkeiten der Nachnutzung und Vereinheitlichung von KI-Systemen in der öffentlichen Verwaltung und wurde vom Kompetenzzentrum Öffentliche IT (ÖFIT) für das Kompetenzteam KI im Schwerpunkt Datennutzung des IT-Planungsrats durchgeführt. Betrachtet werden sieben GenKI-Lösungen (KIPITZ, PLAIN, LLMoin, NRW. Genius, F13, AIGude, MUCGPT), die große Sprachmodelle (LLMs) für die Verwaltung in Bund, Ländern und Kommunen nutzbar machen. Sie werden auf Basis einer Referenzarchitektur systematisch anhand technischer, rechtlicher und organisatorischer Aspekte verglichen.
Die zentralen Erkenntnisse sind:
- Die Systeme ähneln sich in ihren Anwendungsbereichen und teilen viele technische Grundlagen. Alle setzen auf Microservice-Architekturen und nutzen ähnliche Open-Source-Frameworks. Diese Gemeinsamkeiten schaffen eine solide Basis für Zusammenarbeit und Austausch zwischen den Projekten.
- Nachnutzung und Aufbau eines gemeinsamen KI-Ökosystems könnten der Verwaltung erhebliche Vorteile bringen. Eine einheitliche Plattform für alle Akteure erscheint jedoch unrealistisch. Gründe dafür sind die rasante Entwicklung im KI-Bereich, die Parallelentwicklungen unvermeidbar macht, sowie der fortgeschrittene Einsatz vieler Einzelprojekte, deren Umstellung aufwendig wäre. Zudem bedienen die Lösungen unterschiedliche Bedürfnisse – von der Bundesverwaltung über Landesbehörden bis hin zu Kommunen.
- Ein realistisches Ziel ist die Entwicklung und Einigung auf eine gemeinsame Referenzarchitektur. Vorrangig sollten Microservice-Komponenten austauschbar gestaltet werden, um spezifische Anwendungsfälle mit geringem Aufwand in andere Systeme zu integrieren. Dafür braucht es ein einheitliches Systemverständnis und standardisierte Schnittstellen. Darauf aufbauend kann die gemeinsame Weiterentwicklung von Open-Source-Software erfolgen, ergänzt durch regelmäßige Sicherheitsprüfungen kritischer Komponenten.
Für den Aufbau eines solchen KI-Ökosystems formuliert die Vorstudie fünf zentrale Empfehlungen, die Anbieter- und Nutzerperspektiven berücksichtigen:
- Nutzergruppen und ihre Bedarfe systematisch erfassen, um ein Szenarien-Portfolio mit klaren Anforderungen zu erstellen.
- Begriffe und Systemstrukturen schärfen, um ein gemeinsames Verständnis von Plattform, Anwendung und Infrastruktur zu schaffen.
- Compliance als Querschnittsthema bearbeiten, etwa durch praxisnahe Checklisten und Vorlagen.
- Konvergente Architekturen fördern, Microservices nach einheitlichen Standards entwickeln und als Open Source teilen.
- Positionierung zum Deutschland-Stack klären und Bedarfe aus dem GenKI-Kontext aktiv in dessen Entwicklung einbringen.
Veröffentlicht:
Verwandtes
Digitale Souveränität bei LLMs - Folge 45
Große Sprachmodelle (LLMs) kommen auch in der Bundesverwaltung zunehmend zum Einsatz. Ihr Training erfordert immense Daten- und Rechenkapazitäten, die nur wenigen Unternehmen zur Verfügung stehen. Droht eine technologische Abhängigkeit des Staates? Basierend auf der Analyse von 33 LLM-Projekten des Bundes diskutieren Dorian Wachsmann und Nicole Opiela, was bereits getan wird, um die digitale Souveränität zu stärken.
Digitale Souveränität und grosse Sprachmodelle in der Bundesverwaltung
Wie souverän ist der Staat bei der Nutzung von großen Sprachmodellen (LLMs)? Die Bundesverwaltung setzt an immer mehr Stellen auf Anwendungen, die auf Basis von LLMs funktionieren. In der Studie wird sich empirisch damit auseinandergesetzt, ob in diesem Technologiefeld neue Abhängigkeiten zu entstehen drohen. Basis sind eine LLM-Marktanalyse und Maßnahmenanalyse zu KI in Deutschland sowie ausgewählten Ländern – mit abschließenden konkreten, umsetzbaren Handlungsempfehlungen.
Wie nachhaltig ist meine KI?
Blogreihe: Das SustAIn-Projekt bietet umfassende Indikatoren, mit denen sich die soziale, ökologische und ökonomische Nachhaltigkeit von KI-Systemen bewerten lässt. Über ein Self-Assessment-Tool können Organisationen ihre KI-Systeme jetzt in einer digitalen Anwendung auf den Nachhaltigkeitsprüfstand stellen. Einer der Autor:innen stellt das Tool vor.