LOAD e.V.

Gemeinsame Stellungnahme: KI-Überwachungspläne der Bundesregierung gefährden digitale Grundrechte

Blog, Presse

Mehr als ein Dutzend Organisationen, darunter LOAD e.V. als Mitunterzeichner, warnen in einer gemeinsamen Stellungnahme vor den verfassungs- und menschenrechtlichen Risiken der geplanten Einführung von digitalen Ermittlungsbefugnissen mittels KI-Systemen wie PimEyes oder Palantir in der Polizeiarbeit. In diversen Gesetzentwürfen plant die Bundesregierung, die Nutzung solcher Systeme bundesweit zu ermöglichen. Die Organisationen beteiligen sich mit ihrer gemeinsamen Stellungnahme an der Verbändebeteiligung zu den Gesetzentwürfen.

Kritik an fehlenden rechtsstaatlichen Sicherungen

Die unterzeichnenden Organisationen bemängeln die Einführung der geplanten Befugnisse zum biometrischen Internetabgleich und zur automatisieren Datenanalyse. Die Befugnisse würden tief das Recht auf informationelle Selbstbestimmung aller Menschen eingreifen, die sich im Internet bewegen, deren Bilder im Internet zu finden sind oder die von intelligenten Kameras erfasst werden.
Außerdem lassen die Entwürfe zentrale rechtsstaatliche Prinzipien vermissen. Gefordert werden deshalb unter anderem ein Richtervorbehalt, effektiver Rechtsschutz sowie eine menschliche Überprüfung automatisierter Analysen. Ohne diese Garantien drohen unverhältnismäßige Eingriffe in das Recht auf Privatsphäre und die Gefahr der flächendeckenden Überwachung der Bevölkerung​​​​​​​.

Die Kritik bezieht sich auf Regelungen zur automatisierten Datenanalyse, deren Ausprägung auf Landesebene in Hessen und Hamburg das Bundesverfassungsgericht 2023 für verfassungswidrig (Urteil des Ersten Senats vom 16. Februar 2023, Az.: 1 BvR 1547/19 & 1 BvR 2634/20) erklärte. Auch aufgrund dieses klaren Urteils konnte sich die damalige Bundesregierung sich nicht auf eine bundesweite gesetzliche Lösung einigen.

Zitate der unterzeichnenden Organisationen

Lukas Theune, Geschäftsführer des Vereins RAV, betont:

„Alle Videos, Fotos und andere biometrische Daten im Netz zu durchsuchen, nur um einige wenige Personen zu finden, die nicht einmal einer Straftat verdächtig sein müssen, ist ein unverhältnismäßiger Eingriff in das Recht auf Privatsphäre.
Mit dieser KI können Profile unzähliger Menschen erstellt werden. Recherchen zum Einsatz von KI in Behörden zeigen, dass ohnehin marginalisierte Gruppen dadurch besonders diskriminiert werden."

Lena Rohrbach, Fachreferentin für Menschenrechte im digitalen Zeitalter bei Amnesty International, warnt:

“Mit biometrischen Massenabgleichen und umfassenden Datenanalysen mittels Künstlicher Intelligenz würde die Bundesregierung eine rote Linie überschreiten: Sie schafft die Infrastruktur zur flächendeckenden Überwachung ihrer eigenen Bevölkerung – und gefährdet damit Grundrechte, die sie eigentlich schützen muss. Weil kaum absehbar ist, was "Datenspuren" hinterlassen kann, die die KI verdächtig findet, führt das Vorhaben auch zu sogenannten "Chilling Effects". Das heißt, es kann Menschen einschüchtern und davon abhalten, ihre Rechte wahrzunehmen, etwa an Versammlungen teilzunehmen oder eine Anzeige aufzugeben”

​​​​​​​​​​​Unsere LOAD-Vorsitzende Teresa Morrkopf-Widlok mahnt darüber hinaus:

"Der vorliegende Entwurf der Bundesregierung ist nur ein Baustein einer bedenklichen sicherheitspolitischen Entwicklung auf breiter Front. Parallel werden weitere Vorhaben verfolgt, die tief in digitale Freiheitsrechte eingreifen. Von digitalen Ermittlungsbefugnissen über die anlasslose Vorratsdatenspeicherung von IP-Adressen bis hin zu neuen Zollbefugnissen zum biometrischen Abgleich mit Daten aus dem Internet entsteht so ein Gesamtbild, das sich wie eine Eiszeit für unsere digitalen Bürgerrechte anfühlt.“

Ein weiterer, bisher wenig beachteter, Aspekt der Entwürfe für digitale Ermittlungsbefugnisse bezieht sich auf den Schutz der Mitglieder von Verfassungsorganen. Die Befugnisse zum biometrischen Internetabgleich und zur automatisierten Datenanalyse sollen auch zum Schutz von Mitgliedern der Verfassungsorgane (wie z.B. Mitglieder des Bundestages, MdB) eingesetzt werden können. Die Befugnisse sollen unter anderem zur Identifizierung und Ermittlung des Aufenthaltsorts mutmaßlicher Tatverdächtiger genutzt werden dürfen. Die Debatten rund um den Politikerbeleidigungs-Paragraphen, sollten uns eine Warnung sein, dass kein Sonderrecht für politisch exponierte Personen geschaffen werden sollte, das zu unverständlichen Auswüchsen in der Praxis führen kann.

An der Stellungnahme beteiligen sich...

  1. AG Kritis,
  2. Algorithm Watch,
  3. Amnesty International,
  4. Chaos Computer Club,
  5. D64 Zentrum für Digitalen Fortschritt,
  6. Digitale Gesellschaft,
  7. Humanistische Union,
  8. Justice Collective,
  9. LOAD e.V.,
  10. Komitee für Grundrechte und Demokratie,
  11. Neue Richter*innenvereinigung,
  12. Pro Asyl Bundesarbeitsgemeinschaft BAG,
  13. Republikanischer Anwältinnen- und Anwälteverein,
  14. Seebrücke,
  15. Vereinigung demokratischer Jurist*innen