Aktuelles

"We are sleepwalking into a China light scenario. Though the European Parliament was unable to achieve a ban on real-time biometric surveillance against the member states, we managed to include a number of safeguards for the use of these systems. There are still loopholes, such as a reference to the threat of a foreseeable terrorist attack as well as several national security exceptions throughout the law, which can potentially lead to mass surveillance. The post biometric identification of individuals is possible almost without any legal safeguards such as prior judicial authorisation. There is no threshold on crimes, so biometric identification can be used even for minor offences. In addition, there are insufficient restrictions on predictive policing. The AI Act might become a wildfire instead of a firewall for civil rights."

„Der AI Act wird zum Anti Innovation Act. Überregulierung von Innovation und zu wenig Schutz von Bürgerrechten, das ist ein Giftcocktail für Wirtschaft und Gesellschaft. Nach einem chaotischen Gesetzgebungsprozess und einem Marathon-Trilog, dessen mündliche Vereinbarungen im Nachhinein teilweise kassiert wurden, steht ein enttäuschendes Gesetz.“

„It is outrageous that the Spanish Council Presidency managed to adjust the final legislative text on key points so that it no longer reflects the oral trilogue agreement. The final text is unspecific about the difference between "real-time" and "post real-time" biometric identification, which threatens to circumvent the very strict rules on real-time identification of persons that the Parliament was able to push for, against the member states. The oral agreement had foreseen the use of post real-time biometric identification only for very serious crimes, under very strict conditions, such as a prior judicial approval. Little of this remained.“

„Es ist unfassbar, dass die spanische Ratspräsidentschaft dafür gesorgt hat, dass der endgültige Gesetzestext in wesentlichen Punkten nicht mehr mit der mündlichen Einigung des Trilogs vom Dezember übereinstimmt. Es bleibt unklar, ab wann eine biometrische Identifizierung nicht mehr als "Echtzeit", sondern als "nachgelagert" gilt. Dadurch könnten die strengen Vorschriften zur Echtzeit-Identifizierung von Personen, die das Parlament gegenüber den Mitgliedsstaaten errungen hat, umgangen werden. Ursprünglich war mündlich vereinbart worden, dass auch die nachgelagerte Identifizierung nur für schwerwiegende Straftaten und unter sehr engen Bedingungen, wie etwa einem vorherigen Richtervorbehalt, erfolgen dürfte. Davon ist wenig übrig geblieben.“

Das Ziel muss sein, kleine und mittelständische Unternehmen vor schädlichem Zahlungsverzug im Geschäftsverkehr zu schützen. Der Gesetzesvorschlag der EU-Kommission schießt aber am eigentlichen Ziel, Zahlungsverzug und Liquiditätsprobleme von KMU wirksam zu bekämpfen, vorbei.

„Mit dem europäischen Lieferkettengesetz rollt die nächste Bürokratiewalze auf Unternehmen zu. Das europäische droht unverhältnismäßig weit über das deutsche Lieferkettengesetz hinauszugehen, unklare Haftungspflichten zu schaffen und in die Vertragsfreiheit einzugreifen. Die EU würde die Chance verpassen, ein Lieferkettengesetz zu schaffen, das es Unternehmen einfacher machen würde, ihrer menschenrechtlichen Sorgfaltspflicht nachzukommen. Statt praxisnaher Lösungen würden Auflagen, Berichtspflichten und Rechtsunsicherheit geschaffen werden.“

Das Interesse am AI Act ist riesig. Denn mit dem Europäischen KI-Gesetz ist die EU Vorreiterin in der Regulierung von Künstlicher Intelligenz. Ist die EU aber auch Vorreiterin bei Innovation und Bürgerrechten? Meine persönliche Bilanz ist gemischt.

"In 38 hours of negotiations over three days, we were able to prevent massive overregulation of AI innovation and safeguard rule of law principles in the use of AI in law enforcement. Overall I wanted to see more openness to innovation and an even stronger commitment to civil rights."

„In 38 Stunden Verhandlung über drei Tage konnten wir eine massive Überregulierung von KI Innovation verhindern und rechtsstaatliche Prinzipien beim Einsatz von KI in der Strafverfolgung verankern. Ich hätte mir mehr Freude an Innovation und noch stärkere Bekenntnisse zu Bürgerrechten gewünscht.“