Stellungnahme zum Hessischen Gesetz zur Anwendung von Künstlicher Intelligenz in der Verwaltung
Am 6. November war ÖFIT-Leiter Prof. Dr. Peter Parycek als Sachverständiger in den Ausschuss für Digitales, Innovation und Datenschutz des Hessischen Landtags geladen. Anlass war die öffentliche mündliche Anhörung zum Entwurf des Hessischen Gesetzes zur Anwendung von Künstlicher Intelligenz in der Verwaltung (HKIVerwG). Prof. Dr. Parycek begrüßte das geplante Gesetz. Es setze ein wichtiges Signal, indem es KI ausdrücklich als zulässiges und erwünschtes Instrument der Verwaltungsmodernisierung verankere. Das Gesetz schaffe eine klare Balance zwischen automatisierter Entscheidungsfindung in gebundenen Fällen und menschlicher Letztverantwortung, die über die vorgesehene KI-Rüge jederzeit wiederhergestellt werden könne und auf diese Weise effiziente, schnelle und konsistente Verfahren ermögliche, ohne rechtsstaatliche Kontrollmöglichkeiten einzuschränken.
Seine zentralen Empfehlungen lauten:
- Begriffsdefinition (§ 2) an EU-KI-VO angleichen und Abgrenzung klarstellen: Die Definition des KI-Begriffs sollte eng an Art. 3 KI-VO rückgebunden und klargestellt werden, dass regelbasierte, deterministische Automatisierungen (Entscheidungsbäume, Workflow-Systeme, Validierungsroutinen) nicht unter das Gesetz fallen, um Rechtsklarheit und Vollzugssicherheit zu gewährleisten.
- Die geplante Zentrale Anlaufstelle für Systeme Künstlicher Intelligenz (ZAKI) institutionell vom Hessischen Beauftragten für Datenschutz und Informationsfreiheit (HBDI) trennen: Die Innovations- und Einführungskompetenz sollte in einer weisungsfreien, interdisziplinären Stelle verankert werden, um die strukturelle Spannung zwischen Kontrolle und Innovation aufzulösen.
Informationen zur öffentlichen mündlichen Anhörung inklusive der Stellungnahmen weiterer Anzuhörenden finden sich hier.
Veröffentlicht:
Verwandtes
Von der Digitalisierung zur Automatisierung des Verwaltungsverfahrens
Die digitale Transformation schreitet voran und inzwischen begegnen uns digitale Lösungen in allen Lebensbereichen. So scheint es nur logisch, dass diese Transformationsprozesse der Digitalisierung bis hin zur Automatisierung auch etablierte rechtliche Strukturen und Gesetze berühren und verändern. Neben der wichtigen Aufgabe einer materiellen Ausgestaltung eines gesetzlichen Rahmens steht jedoch auch die Rechtssetzung und -anwendung selbst vor Herausforderungen. Denn auch an diesen Bereich werden durch die technologischen Möglichkeiten neue Ansprüche gestellt. Die in Zusammenarbeit mit Prof. Thorsten Siegel von der Freien Universität Berlin entstandene Publikation widmet sich diesen Ansprüchen und Herausforderungen im Verwaltungskontext aus technischer und rechtlicher Perspektive.
Innovationsnetzwerke in der öffentlichen Verwaltung
Innovationsnetzwerke schaffen Räume für Austausch, Wissenstransfer und Kooperation über Organisationen hinweg – und fördern so Innovationen in der Verwaltung. Doch wie wirken diese Netzwerke konkret, und welche Bedingungen müssen erfüllt sein, damit sie zu tatsächlich zu Wirkungen in Verwaltungsorganisationen führen? Dieses White Paper untersucht fünf Netzwerke auf Basis von Interviews und einer Befragung, um diesen Fragen nachzugehen.
Wie nachhaltig ist meine KI?
Blogreihe: Das SustAIn-Projekt bietet umfassende Indikatoren, mit denen sich die soziale, ökologische und ökonomische Nachhaltigkeit von KI-Systemen bewerten lässt. Über ein Self-Assessment-Tool können Organisationen ihre KI-Systeme jetzt in einer digitalen Anwendung auf den Nachhaltigkeitsprüfstand stellen. Einer der Autor:innen stellt das Tool vor.