Reise in die digitale Zukunft des Verwaltungs- und Verfassungsrechts

von Prof. Dr. Peter Parycek, Anna-Sophie Novak , Verena Huber und Simon Hunt

Die digitale Transformation bringt nicht nur Chancen und Herausforderungen, sondern wirft auch verwaltungs- und verfassungsrechtliche Fragen auf, die in den kommenden Jahren politisch diskutiert werden müssen. Der Beitrag enthält Thesen mit <digitalen> und <analogen> (Grund)rechten, die zugespitzt formuliert sind, durchaus auch bewusst im Widerspruch stehen, jedenfalls aber einer (weiteren) politischen Diskussion zu unterziehen sind. Das Präfix <digital> steht für Rechte in einer digital vernetzten Welt bzw. <analog> für Räume, die wir vielleicht bewusst auch nicht digital vermessen und vernetzen.^[1]

Rechtspersönlichkeit für Maschinen

In der Rechtswissenschaft wird von Rechtsfähigkeit gesprochen, wenn eine Person Inhaber von Rechten und Adressat von Pflichten sein kann. Grundsätzlich wird diese nur Menschen zugesprochen. Bereits seit der Antike sind jedoch auch juristische Personen etabliert. Dieser Begriff umfasst prinzipiell alle möglichen Konstruktionen, die vom Recht eine Rechtsfähigkeit zugesprochen bekommen haben. Regelmäßig handelt es sich hierbei jedoch um diverse Formen menschlicher Zusammenschlüsse, wie Vereine oder öffentlich-rechtliche Körperschaften. Der Mensch ist entsprechend weiterhin Teil der Rechnung. Gemäß Artikel 19 III GG gelten die Grundrechte in Deutschland entsprechend auch für juristische Personen, sofern sie ihrem Wesen nach auf diese anwendbar sind. Ist die menschliche Komponente aber prinzipiell notwendig? Oder sollten wir als Gesellschaft Maschinen einer gewissen Schöpfungshöhe Rechtsfähigkeit zusprechen?

Durch künstliche Intelligenz und maschinelles Lernen können autonome Objekte ermöglicht werden. Diese sind ohne aktive Eingriffe durch den Menschen handlungsfähig und können sich selbstständig bewegen.^[2] Inwiefern autonomen Objekten wie einem selbstfahrenden Fahrzeug oder einer Robotik-OP-Hilfe eine eigene Rechtspersönlichkeit zukommt, wird derzeit vor allem in Haftungs- und Zurechnungsfragen erörtert. Das Europäische Parlament hat zu dieser Frage im Jahr 2017 einen eigenen Rechtsstatus für Roboter diskutiert, sodass für die hochentwickelten autonomen Roboter der Status von elektronischen Personen (E-Personen) festgelegt werden könnte.^[3] Im Fall eines Schadens durch eine autonome Handlung würde die Maschine für ihre Entscheidung haften. Einen deutlichen Schritt weiter ist Saudi-Arabien gegangen und hat 2017, vermutlich im Rahmen einer Marketingaktion, der KI Sophia die Staatsbürgerschaft verliehen^[4] und ihr somit auch die entsprechenden Rechte und Pflichten übertragen.

Bislang haben Maschinen jedoch grundsätzlich keine Rechtsfähigkeit. Sie sind selbst nicht Adressaten rechtlicher Regelungen, sondern diese richten sich an die dahinterstehenden Personen, die wiederum das regelkonforme Verhalten sicherstellen müssen. Der kleinere Schritt wäre, entsprechend eine partielle Rechtsfähigkeit einzuführen, die Maschinen direkt rechtliche Pflichten auferlegt, jedoch keine Rechte garantiert. Der größere Schritt, eigene Rechte für Maschinen, kann jedoch auch Sinn ergeben, ohne sie auf eine Stufe mit Menschen zu erheben. Eigene Rechte, die dazu dienen ihre Pflichten zu garantieren, wären ein Beispiel.

Denkbar wäre auch, für Maschinen einen eigenen Rechtsstatus, ähnlich wie für Tiere, einzuführen. Auf Tiere sind zwar grundsätzlich die Vorschriften für Sachen anzuwenden, dennoch werden sie nicht als »Sachen« bezeichnet und durch besondere Gesetze geschützt.

Zudem besteht die theoretische Möglichkeit, dass autonome Maschinen Bewusstsein entwickeln könnten. Davon sind wir derzeit aber noch weit entfernt - Roboter haben nach dem Stand der Technik kein Bewusstsein, Gewissen oder Emotionen. Denn: »Auch die aktuell klügste Maschine hat kein Bewusstsein, sie simuliert es nur«.^[5] Sollte dieser Zustand eintreten, wird eine Diskussion über moralische Rechte für Maschinen nicht zu umgehen sein. Eine intrinsische Würde und die Fähigkeit zu moralisch verantwortlichem Handeln können bis dahin nicht vorliegen.

»Was allen Robotern und KIs fehlt, ist eine innere Erlebnisperspektive. Sie können schlichtweg nicht fühlen, wie es ist, sich zu verlieben, ein schlechtes Gewissen zu haben oder ein Stück Schokolade zu genießen. Diese bewusste Erlebnisperspektive geht weit über mathematische Programmiersprachen hinaus; sie ist einzig und allein lebendigen Organismen vorbehalten.«^[6]

<Digitale> Rechte für Maschinen

Ein Status als »E-Person« könnte nicht nur Pflichten, sondern auch Rechte begründen, womöglich auch verfassungsrechtlich gewährleistete Rechte. In den USA wird diskutiert, ob Maschinen ein Recht auf Redefreiheit haben sollten. Das dort verfassungsgesetzlich verankerte Recht auf freie Meinungsäußerung schützt die Rede und nicht primär den Redner. Damit ließe sich argumentieren, dass auch KIs und Bots ein Recht auf freie Meinungsäußerung haben. Autonome Äußerungen von Bots auf Twitter und anderen sozialen Medien, die unter anderem dafür genutzt werden, sogenannte »Fake News« zu verbreiten, wären dann durch die Meinungsfreiheit geschützt.

Die Frage, ob künstlicher Intelligenz Rechte zukommen sollen, stellt sich beispielsweise auch im Bereich des Patent- und Urheberrechts. So wurden von einer autonom handelnden Software Produkte entwickelt, die entsprechend patentiert werden sollten. Da die Mitarbeiter:innen lediglich Daten in die Software eingegeben hätten und diese dann die Lösung entwickelte, müsse die Software als Erfinderin eingetragen werden. Für die Behörden kam es nicht infrage, keine menschlichen Entwickler:innen, sondern eine Software als Erfinderin einzutragen. Hier stellt sich die Frage, welche Rechte eine Maschine hat, wenn sie etwas Eigenes erschafft, bzw. in weiterer Folge, ob sie auch wirtschaftlich tätig werden kann.?^[7]

<Digitales> Recht auf algorithmische Entscheidung

Algorithmen sind – vereinfacht gesagt – als eindeutig festgelegte Verfahren bzw. Handlungsvorschriften zur Lösung von Problemen zu verstehen. Auch Anleitungen zum Aufbau von Möbeln oder Kochrezepte werden von dem weiten Begriff des »Algorithmus« erfasst. Immer häufiger werden algorithmische Entscheidungssysteme zur Klassifikation und Prognose von menschlichem Verhalten herangezogen. Vor allem in Bezug auf Qualität und Objektivität unterscheiden sich diese von menschlichen Entscheidungen.

Algorithmen entscheiden nicht nur schneller als Menschen, sie entscheiden konstant durch Logik gesteuert. Eine Studie^[8] belegt, dass Richter:innen am Anfang eines Tages und nach der Mittagspause häufiger zugunsten von Angeklagten entscheiden. Mit der Zeit werden die Richter:innen »entscheidungsmüde«, positive Urteile nehmen ab und die Richter*innen tendieren dazu, Bewährungsanträge abzulehnen und Straftäter in Haft zu lassen. Im Gegensatz zu Menschen, die unter Umständen mental ermüden, führen entsprechend programmierte, algorithmische Entscheidungsprozesse zu objektiven und konstanten Ergebnissen. Durch die gleichförmigen Entscheidungen wird das Vertrauen auf rechtliche Gleichbehandlung gestärkt. Algorithmische Entscheidungen könnten im Verwaltungsrecht für gebundene Entscheidungen in Betracht kommen.

<Digitales> Recht auf antragslose automatisierte Entscheidungen

Antragslose Verfahren werden ohne Antrag eingeleitet und können zur Vereinfachung und Beschleunigung des Verfahrens beitragen. Einfache und antragsgebundene (Massen-)Verfahren, deren gesamter entscheidungsrelevanter Sachverhalt allein durch das automatische Abrufen von Daten erhoben werden kann, sollten automatisiert werden. Verfahren dieser Art belasten sowohl die Verwaltung als auch Bürger:innen, da sie ein Tätigwerden der antragstellenden Person voraussetzen, obwohl von dieser oft nicht mehr als ein standardisierter Antragswortlaut zu erwarten ist. Antragslose vollautomatisierte Verfahren sind in Österreich seit 2015 mit der antragslosen Familienbeihilfe Realität. Aufgrund der nach einer Geburt erfassten Daten des Kindes sowie der Personenstandsdaten der Eltern werden von der Finanzverwaltung automatisiert die Voraussetzungen für die Gewährung der Familienbeihilfe geprüft. Wenn alle notwendigen Daten korrekt vorliegen, erhalten die Eltern nicht nur ein Informationsschreiben über die Familienbeihilfe, es erfolgt zeitgleich die Überweisung des Familienbeitrags auf ihr Konto.

Durch antragslose, automatisierte Verfahren kann auch eine soziale und inklusive Wirkung erreicht werden. Die Nichtinanspruchnahme von Sozialleistung liegt bei Hartz IV etwa um 50 Prozent und bei der Grundsicherung bei ungefähr 60 Prozent.^[9] Die Gründe dafür dürften Unwissenheit über die Anspruchsberechtigung, geringe Ansprüche oder die Komplexität der Inanspruchnahme sein.^[10]

Durch die konsequente Digitalisierung der staatlichen Register können zahlreiche Verfahren antragslos und vollautomatisiert umgesetzt werden. Verfahren können durch klar definierte Begriffe und Digitalisierung aller zur Berechnung nötigen Informationen in Sekundenbruchteilen vollzogen werden.

<Digitales> Recht als Programmcode für die vollautomatisierte Vollzugsmaschine

Im derzeitigen Gesetzgebungsverfahren spielt das Digitalisierungspotenzial von Gesetzen eine untergeordnete Rolle mit der Konsequenz, dass Gesetzestexte nicht per se maschinenlesbar sind. Dies hat zur Folge, dass automatisierte Verfahrensabwicklungen erschwert werden oder unmöglich sind. Wird die spätere »Übersetzung« von Gesetzestext in Softwarecode bereits bei der Erstellung von Gesetzen berücksichtigt, vereinfacht dies die Automatisierung des Verfahrens.

Geht man einen Schritt weiter und werden zugleich zum Gesetzestext auch Programmcode und Ablaufdiagramme veröffentlicht, werden Übersetzungsfehler zwischen Gesetz und Softwarecode vorgebeugt: Es werden digitale Gesetze beschlossen.

Die Kombination aus digitalen Gesetzen, antragslosen Verfahren (vgl. dazu Recht auf antragslose automatisierte Entscheidungen) und hoch qualitativen Daten aus staatlichen Registern könnten die Transformation des Staates zu einer vollautomatisierten Vollzugsmaschine ermöglichen.

<Analoges> Recht auf menschliche Entscheidung

Mit Algorithmen des maschinellen Lernens und der künstlichen Intelligenz kann z.B. eine Rückfälligkeitsvorhersage bei schon vorher straffällig gewordenen Personen getroffen werden. Computerprogramme wie COMPAS werden in den USA zu diesem Zweck bereits eingesetzt. Sieht man sich COMPAS genauer an, wird augenscheinlich, dass Afroamerikaner:innen eher fälschlich als kriminell eingeordnet werden als Weiße. Der Grund hierfür kann auch darin liegen, dass die Trainingsdaten, auf deren Basis die Systeme »lernen«, versteckt und offen diskriminierende Entscheidungen enthalten. Solche Systeme wecken daher Misstrauen in Menschen und können zu systematischer Diskriminierung führen. In Europa versucht die DSGVO diesen Konflikt mit der Möglichkeit des Eingreifens durch einen Menschen zu lösen. Der Mensch soll so in Fällen wie vollautomatisierten Online-Bewerbungsverfahren oder automatischer Ablehnung eines Online-Kreditantrags auf Antrag eingreifen müssen. Dies wird dadurch begründet, dass niemand ausschließlich einer automatisierten Entscheidung unterworfen sein sollte, die persönliche Aspekte einer Person bewertet. Aufgrund der Gefahr von Diskriminierung und Ausgrenzung ist es überlegenswert, eine Möglichkeit zu schaffen, die über Artikel 22 DSGVO, der die Rechte der betroffenen Person bei Entscheidungen in automatisierten Verfahren regelt, hinausgeht. Zu denken wäre hier an ein Grundrecht auf Entscheidung durch einen Menschen oder auch ein Verbot von Prognosesystemen für sensible Lebensbereiche. Schleswig-Holstein hat beispielsweise die digitale Privatsphäre verfassungsrechtlich verankert und damit eine Vorgabe für Abwägungsentscheidungen des einfachen Gesetzgebers zwischen Persönlichkeitsrecht auf der einen und Wirtschafts- und Unternehmerfreiheit auf der anderen Seite geschaffen.

<Analoges> Recht auf technologiefreies Leben und Räume

In der Schweiz fordern SP-Politiker, das »Recht auf eine analoge Welt« in der Bundesverfassung festzuschreiben. Derzeit wird dieses Thema vor allem in der Tourismusbrache unter dem Stichwort »Digital Detox«, quasi analogem Urlaub und Pause von digitalen Medien, besprochen. Dieses Konzept ließe sich auch in der Raumplanung berücksichtigen. Mit einem Subkonzept von »Digital Detox« könnten regionale Identitäten und kulturelle Besonderheiten besonders gewürdigt werden, indem technologiefreie Regionen eingeführt werden. Diese bisher auf den Tourismus ausgerichteten Konzepte könnten aber auch auf weitere Teile des Lebens erweitert werden und Räume schaffen, die ein technologiefreies Leben ermöglichen.

<Digital-analoger> Gesellschaftsvertrag für das digital vernetzte Zeitalter

Die vorliegenden Thesen enthalten Aspekte, die zur Diskussion anregen sollen und stehen durchaus ganz bewusst in einem Spannungsverhältnis. Es liegt an Politik und Gesellschaft, einen digital-analogen Gesellschaftsvertrag zu verhandeln. Dies wird ein fortlaufender politischer Prozess, mit welchem wir unsere analoge und digitale Zukunft gestalten werden.

Weiterführende Informationen

Die 24 Beiträge dieses Sammelbandes thematisieren Veränderungsprozesse von Staatlichkeit und Öffentlichkeit im Kontext der Algorithmisierung und Automatisierung von Entscheidungsverfahren und Handlungsvollzügen in Politik und Gesellschaft

(Un)Berechenbar? Algorithmen und Automatisierung in Staat und Gesellschaft

Resa Mohabbat Kar, Basanta Thapa, Prof. Dr. Peter Parycek (Hrsg.) (2018)

Berlin: Fraunhofer FOKUS: Kompetenzzentrum Öffentliche IT

Weiterführende Quellen

Angwin/Larson/Mattu/Kirchner, Machine Bias - There’s software used across the country to predict future criminals. And it’s biased against blacks, ProPublica 2016. Abgerufen 12.03.2021, von https://www.propublica.org/article/machine-bias-risk-assessments-in-criminal-sentencing.

Härtel, Digitalisierung im Lichte des Verfassungsrechts – Algorithmen, Predictive Policing, autonomes Fahren, LKV 2019, 49.

Lobe, Brauchen Roboter Rechte? 2017. Abgerufen 12.03.2021, von https://www.spektrum.de/kolumne/brauchen-roboter-rechte/1437912.

Steege, Algorithmenbasierte Diskriminierung durch Einsatz von Künstlicher Intelligenz, MMR 2019, 715 ff.

[1] Der Originalbeitrag von ÖFIT-Leiter Prof. Dr. Peter Parycek entstand im November des vergangenen Jahres, als das Bundesland Niederösterreich das 100-jährige Bestehen seiner Landesverfassung feierte und zu diesem Anlass eine Publikation mit dem Titel “100 Jahre Landesverfassung – Reflexion und Herausforderung” herausbrachte. Die Publikation ist auf der Website des niederösterreichischen Landtags verfügbar: https://noe-landtag.gv.at/fileadmin/sites/noe-landtag/medien/aktuelles/2020/100_Jahre_Landesverfassung.pdf. ↩

[2] Schreier, Die Dinge werden autonom, 29.01.2020. Abgerufen 12.03.2021, von https://www.industry-of-things.de/die-dinge-werden-autonom-a-899822/. ↩

[3] Entschließung des Europäischen Parlaments vom 16. Februar 2017 mit Empfehlungen an die Kommission zu zivilrechtlichen Regelungen im Bereich Robotik. Abgerufen 12.03.2021, von https://www.europarl.europa.eu/doceo/document/TA-8-2017-0051_DE.html. ↩

[4] FAZ, Roboterfrau bekommt saudische Staatsbürgerschaft, 27.10.2017. Abgerufen 12.03.2021, von https://www.faz.net/aktuell/wirtschaft/digitec/roboter-sophia-bekommt-saudi-arabiens-staatsbuergerschaft-15265867.html. ↩

[5] Spät, Die Würde des Roboters ist antastbar, 09.06.2018. Abgerufen 12.03.2021, von https://www.zeit.de/digital/2018-06/meinungsfreiheit-social-bots-kalifornien-gesetz-kennzeichnung/komplettansicht. ↩

[6] Spät, Die Würde des Roboters ist antastbar, 09.06.2018. Abgerufen 12.03.2021, von https://www.zeit.de/digital/2018-06/meinungsfreiheit-social-bots-kalifornien-gesetz-kennzeichnung/komplettansicht. ↩

[7] Prange, Das Recht des Roboters, 28.02.2020. Abgerufen 12.03.2021, von https://www.handelsblatt.com/technik/digitale-revolution/ada-das-recht-des-roboters/25583740.html?ticket=ST-527678-zmEeslqD33LscDh0zqe4-ap2. ↩

[8] Danziger/Levav/Avnaim-Pesso, Extraneous factors in judicial decisions. Proceedings of the National Academy of the Sciences, 2015, 108 (6889-6892). ↩

[9] Friedrichsen/Schmacker, Die Angst vor Stigmatisierung hindert Menschen daran, Transferleistungen in Anspruch zu nehmen, DIW Wochenbericht 26, 2019, 455-461. ↩

[10] Buslei,/Geyer/Haan/Harnisch, Starke Nichtinanspruchnahme von Grundsicherung deutet auf hohe verdeckte Altersarmut, DIW Wochenbericht 49/2019, 909-917. ↩

Veröffentlicht: 14.06.2021