KI für Polizei und Justiz - Keine Kompromisse beim Grundrechtsschutz

July 29, 2020

In vielen Lebensbereichen wird Künstliche Intelligenz (KI) für Fortschritt und Wohlstand sorgen. Innovationen durch KI können auch bei der staatlichen Nutzung von Vorteil sein, unter anderem, um Behördengänge durch e-Governance zu erleichtern oder komplett zu digitalisieren. Während in diesen Bereichen die Vorteile neuer Technologien auf der Hand liegen, ist der KI-Einsatz bei der Strafverfolgung höchst sensibel

Unsere Sicherheits- und Justizbehörden müssen technologisch auf den neuesten Standgebracht werden. Auch bei Polizei und Justiz können intelligente Softwaresysteme für Entlastung sorgen und die Arbeit der Behörden qualitativ erheblich verbessern. Allerdings muss ihr Einsatz sehr genau abgewogen werden und höchstmögliche Sicherheitsvorkehrungen gegen jede Art von Missbrauch und Bürgerrechtsverletzungen vorgeschrieben sein. 

 

Denn eines ist für mich klar: Menschen- und Bürgerrechte sind nicht verhandelbar - auch und erst recht nicht beim Einsatz neuer Technologien durch staatliche Stellen. Gegen Missbrauch von Künstlicher Intelligenz wie er vielen in autoritären Regimen praktiziert wird, brauchen wir innerhalb der EU eine hohe Abwehrmauer.

 

Wie genau der Einsatz von Künstlicher Intelligenz im Strafrecht und ihre Verwendung durch Polizei und Justiz in Zukunft geregelt wird, damit beschäftigen wir uns derzeit im Europäischen Parlament. Als zuständige Renew Europe-Schattenberichterstatterin im Binnenmarkt- und Verbraucherschutzausschuss achte ich bei diesem Thema darauf, dass Grundrechte der EU-Bürger*innen auch in Zukunft geschützt bleiben.

 

Im September 2020 stimmen wir die Stellungnahme unseres Ausschusses zum Thema im Europaparlament ab. Von ganz besonderer Bedeutung ist mir hierbei, dass Menschen auch weiterhin alle ultimativen Entscheidungen in Strafsachen treffen müssen. Software-Unterstützung kann sehr hilfreich sein, sie muss aber menschlich kontrolliert erfolgen und niemand darf nur aufgrund einer maschinellen Entscheidung unter Verdacht gestellt oder verurteilt werden. Akkurate, diskriminierungsfreie Datensets sind dabei von größter Bedeutung. Algorithmen müssen zugänglich und überprüfbar für zuständige Kontrollstellen sein und KI, die von Polizei- und Strafverfolgungsbehörden verwendet wird, sollte unter Open Source-Lizenz veröffentlicht werden. Damit würden wir nicht nur die Datensicherheit und das Vertrauen der Menschen in die Software erhöhen, sondernzugleich Innovation fördern. 

 

Der Einsatz von KI zur Strafverfolgung ist in vielen Bereichen hoch riskant für unsere Bürgerrechte. Das gilt beispielsweise für automatische Gesichtserkennungssoftware, deren flächendeckenden Einsatz im öffentlichen Raumich entschieden ablehne. In diesem und einigen anderen hoch riskantenBereichen, wie dem sogenannten Scoring von Bürger*innen, ist die EU-Kommission aufgefordert, Regulierungsvorschläge vorzulegen, die eine Nutzung nur unter klar definierten Voraussetzungen zulassen und in anderen Fällen gänzlich untersagen. 

 

Gerade für den Grundrechtsschutz ist es entscheidend, EU-weite Vorgaben zu entwickeln, die nicht von einzelnen Mitgliedsstaaten unterlaufen werden dürfen. Ein eng koordinierter Austausch der nationalen Behörden zur KI-Anwendung in der Strafverfolgung kann dazu beitragen und sollte in jedem Fall gefördert werden. 

 

Im kommenden Gesetzgebungsverfahren auf EU-Ebene werde ich mich weiterhin vehement für den Schutz der Bürgerrechte einsetzen und darauf bestehen, dass Rechte wie Datenschutz, Nicht-Diskriminierung und Schutz der Privatsphäre auch beim KI-Einsatz durch Polizei und Justiz voll und ganz gewahrt werden. 

 

Mehr zum Thema: