»Robots on Trial« – ÖFIT-Experte Basanta Thapa plädiert auf Freispruch

Am 16. April 2021 stand eine künstliche Intelligenz in einem fiktiven Prozess des European Liberal Forum vor Gericht. ÖFIT-Experte Basanta Thapa übernahm die Verteidigung der KI in der Veranstaltung »Robots on Trial«.

Die Anwendung künstlicher Intelligenz stellt auch neue Fragen an das Recht. Die Stiftung »European Liberal Forum (ELF)« der liberalen Fraktion im Europäischen Parlament hat in ihrer die Veranstaltungsreihe »ELF Idea Accelerator« dies im Zuge der großen Zukunftsfragen des digitalen Wandels behandelt.

Im Programmpunkt »Robots on Trial« stehen verschiedene KI-Systeme fiktiv vor Gericht. Denn neue Anwendungsmöglichkeiten von KI werfen ethische und rechtlich Fragen auf, etwa: Wie viel Verantwortung kann eine Maschine übernehmen und wann sind die Programmierer:innen zur Rechenschaft verpflichtet? Im ersten Gerichtsverfahren wird der KI vorgeworfen, während einer militärischen Operation nicht zwischen militärischen Zielen und unbeteiligten Zivilist:innen unterschieden zu haben, wodurch zahlreiche Menschen ihr Leben verloren. Im zweiten Verfahren soll sie sich durch bewusste Benachteiligung von Versicherten, die aufgrund von bestimmten Profilmerkmalen schlechter gestellt wurden, der Diskriminierung schuldig gemacht haben.

Im zweiten Verfahren stand ÖFIT-Experte Basanta Thapa der KI zur Seite und plädierte auf Freispruch. Er argumentierte gegen die Vorwürfe der Anklägerin Sarah Chander (Senior Policy Advisor, European Digital Rights), dass für diskriminierende Strukturen die Gesellschaft und nicht eine diese Strukturen spiegelnde Statistik verantwortlich sei. Wenn wir nicht wollen, dass die Kalkulationen der KI zu Diskriminierungserfahrungen führen, müssten wir entweder Diskriminierung in unserer Gesellschaft und damit auch in der Datengrundlage der KI unterbinden oder den Algorithmus der KI so verändern, dass rassistische Diskriminierung erkannt und kompensiert würde. Der Maschine hier Versagen vorzuwerfen, schiebe die Verantwortung unzulässig von sich.

Die konkrete Argumentation in beiden Fällen und die Entscheidungsfindung können Sie in der Aufzeichnung nachsehen.

Um direkt zu dem Verfahren mit der Beteiligung von Basanta Thapa als Verteidiger zu springen, klicken Sie hier.

Fest steht, dass es für die bestehenden und zukünftigen Anwendungsfelder der künstlichen Intelligenz kein Veranwortungsvakuum geben darf. Die Gesetzgebung muss in Zukunft Verantwortungsträger:innen klar benennen und die rechtlichen Rahmenbedingungen an die Entwicklungen der Digitalisierung anpassen.

Dazugehörige ÖFIT-Publikation:

Künstliche Intelligenz wird klar als wichtiges Zukunftsthema erkannt. Doch welche Ziele sollten sich Staat und Gesellschaft in diesem Thema setzten? ÖFIT gibt dafür in diesem Impulspapier einige Anregungen.

Impuls zur digitalpolitischen Gestaltung künstlicher Intelligenz

Dr. Mike Weber, Nicole Opiela (2018)

Berlin: Fraunhofer FOKUS: Kompetenzzentrum Öffentliche IT

Veröffentlicht: 31.05.2021