Ein in Sachsen entwickeltes und unter Anderem nun im Rahmen der Amtshilfe (!) in Berlin eingesetztes, mobiles Überwachungssystem nimmt Kennzeichen von durchfahrenden Kraftfahrzeugen sowie Gesichtsbilder der Fahrzeuginsassen auf und vergleicht die Aufnahmen automatisiert und beinahe in Echtzeit mit Bestandsdaten.
Aber keine Sorge, laut Berliner Innensenat erfolgt der Einsatz natürlich nur „zur Identifizierung von Tatverdächtigen und zur Aufhellung von Fluchtrouten und bei der Tat genutzten Wegen bekannter Tatverdächtiger“.
Entwicklung und Betrieb ist natürlich Geheimsache, daher wissen wir nicht, in welchen Fällen das System mit welcher Trefferquote eingesetzt wurde.
Schön auch, dass als Rechtsgrundlage für diese biometrische #Überwachung einfach Mal auf die Rasterfahndung zurückgegriffen wurde - man ahnt schon, dass auch die dafür notwendige Abwägung ob ein minderes Mittel womöglich ähnlich effektiv wäre, Geheimsache ist.
Beim #AIAct sind wir weiter gekommen, als das die meisten vor ein paar Jahren für möglich gehalten haben. Prinzipiell bekennen sich alle dazu, dass biometrische Massenüberwachung keinen Platz in den Demokratien der Europäischen Union haben darf.
Der Text des KI-Gesetzes setzt das aber nicht um.
Die Ampelkoalition muss darum jetzt zusagen, bei der Umsetzung in Deutschland nachzubessern und das Versprechen aus dem Koalitionsvertrag einlösen!
Nachträgliche Änderungen bei der biometrischen Überwachung sorgen aktuell für Ärger bei EU-Abgeordneten, die bis zuletzt für eine Einschränkung gekämpft hatten. Wird das Gesetz in der nun vorliegenden Form verabschiedet, hätte dies dramatische Folgen.
„KI“-Überwachung ist gefährlich und beraubt uns unserer Menschlichkeit. Das und noch mehr habe ich der Washington Post über die automatisierte #Verhaltenskontrolle am #Hansaplatz erzählt:
Bekommen wir einen Schutz vor biometrischer Massenüberwachung oder wurden Grundrechte hinter verschlossenen Türen verramscht? @konstantin ordnet die politische Einigung zum „KI“-Gesetz ein.
Ergebnis zum #AIAct. In der Nacht haben sich Europäisches Parlament und Rat der EU auf eine politische Einigung verständigt. Für eine abschließende Einordnung braucht es noch Zeit und den finalen Text.
Mein erster Eindruck ist: Ernüchterung. Teilweise zwar theoretisch ein Verbot von biometrischer Massenüberwachung, praktisch könnte es aber die Blaupause für die Anwendung darstellen. Vielleicht also schlimmer als davor. Ein paar Eindrücke im Thread, basierend auf dem, was ich bisher gehört habe. Außerdem hier ein Artikel von @euractiv (Englisch): https://www.euractiv.com/section/artificial-intelligence/news/european-union-squares-the-circle-on-the-worlds-first-ai-rulebook/
Direkt zu Gesichtserkennung im öffentlichen Raum, z.B. an Bahnhöfen und Plätzen. Von Anfang bis Ende der größte Knackpunkt. Der Rat der EU wollte massive Überwachungsberechtigungen, das Parlament diese wenigstens einschränken.
Jetzt soll es für ECHTZEIT biometrische Fernidentifizierung prinzipiell ein Verbot geben, mit riesigen ABER:
Ausnahme für die Suche nach manchen Opfern von Verbrechen, Tatverdächtigen und zur Prävention (!) von Terroranschlägen (wtf). In der Praxis könnte das bedeuten, erstmal wird damit eine massive Überwachungsinfrastruktur installiert, dann stückweise ausgeweitet auf andere Zwecke (Mission creep).
Retrograde (also zeitlich nachgelagerte) Anwendung soll auf die Anwendung bei schwersten Verbrechen begrenzt sein. Was auch immer dieser Katalog an schwersten Verbrechen dann umfasst.
Ersteindruck: 👎
Hier haben sich wohl Überwachungspolitiker*innen an vielen Stellen durchgesetzt. Ich warte noch den finalen Text vor einem endgültigen Urteil ab, aber das is bitter. #ReclaimYourFace (3/X)
Die Trilogverhandlungen zum KI-Gesetz / #AIAct gehen weiter. April 2021 wurde der offizielle Entwurf von der EU-Kommission vorgelegt. In etwa seit dem darf ich mich mit @digitalcourage und mit dem Bündnis #ReclaimYourFace für ein europaweites Verbot von biometrischer Massenüberwachung einsetzen. Und so viele Menschen haben das unterstützt und mir erzählt, wie wichtig ihnen ein Verbot von Gesichtserkennung und co ist. Die Chance auf einen Erfolg besteht - aber steht auf der Kippe.
Jetzt dürfen die Verhandelnden des Europäischen Parlaments gegenüber dem Rat der EU nicht einknicken. Sie haben schon mal auf den Ruf der Zivilgesellschaft gehört und einen Schutz vor diesen gefährlichen Technologien versprochen. Jetzt müssen sie dieses Versprechen in den Verhandlungen auch einlösen!
🚨 Achtung, #AIAct / KI-Gesetz: Unsere Chance für ein Verbot biometrischer Massenüberwachung steht auf der Kippe 🚨 #ReclaimYourFace
Noch am Dienstag hat unser Campaigner @konstantin beim Netzpolitischen Abend #NPA132 berichtet, dass die letzten Verhandlungen gestern Abend abgeschlossen werden sollten. Nach einem fragwürdigen, zwanzigstündigen(!) Verhandlungsmarathon wurden die sogenannten Trilogverhandlungen auf Freitagmorgen vertagt. Beim Trilog sollen sich Europäisches Parlament und der Rat der EU (Regierungen der Mitgliedsstaaten) unter Vermittlung der EU-Kommission hinter verschlossenen Türen auf einen gemeinsamen Gesetzestext einigen. Und es steht einiges auf dem Spiel.
Mit der Kampagne #ReclaimYourFace fordern wir ein konsequentes Verbot biometrischer Massenüberwachung im KI-Gesetz. Das Europäische Parlament hatte in seiner Position viele unserer Forderungen aufgegriffen, droht aber jetzt einzuknicken. Der Rat der EU beharrt unseren Erkenntnissen zufolge weiter darauf, biometrische Überwachung im öffentlichen Raum zu legalisieren, statt die Bevölkerung davor zu schützen. Das darf nicht sein. Darum wiederholen wir hier unsere Forderungen und erinnern die Europaabgeordneten daran, dass sich die Zivilgesellschaft bei den kommenden Europawahlen genau daran erinnern wird, wer sich hier für oder gegen den Schutz unserer Grundrechte eingesetzt hat.
Biometrische Kategorisierung:
Solche Technologien versuchen uns z.B. aus einer Videoüberwachung äußere Kriterien zuzuschreiben, wie Geschlecht oder andere Kategorien. Das führt dazu, dass bestehende Diskriminierungen noch massiv verstärkt werden können.
Darum: der Rat der EU muss seine wahnwitzigen Forderungen jetzt aufgeben. Das Europäische Parlament muss sein Versprechen einlösen. Wir brauchen europaweit einen Schutz der Bevölkerung vor biometrischer Massenüberwachung. Ohne faule Kompromisse! #AIAct#ReclaimYourFace#ProtectNotSurveil
This is a critical time for protecting citizens and their fundamental rights against #FacialRecognition and other forms of #BiometricMassSurveillance. Read this opinion by Ella Jakubowska @ella from @edri to know what is going on:
„The EU is on the precipice of a huge achievement — an #AIAct which truly puts people at its centre. But if done poorly, we will instead find ourselves on the precipice of a law which tells the whole world that the EU prioritises the surveillance industry over people and communities.“
In other news: Zufällig habe ich nun vollen Zugriff auf eine Gesichtersuchmaschine mit rund 50 Mio. Bildern von wahrscheinlich mehr als 1 Mio. Personen.
Bald könnten z.B. mit der Chatkontrolle im Internet flächendeckende Alterskontrollen kommen. Aber was bedeutet das in der Praxis, welche Probleme gibt es und bringt das überhaupt etwas?
ça ne peut pas rester ainsi...à terme, le pays risque de s'appauvrir en créativité, les meilleurs de le quitter, la solidarité est plus difficile, la fausseté, la conformité, risque de gagner du terrain, honte à la cnil, aux menteurs d'extrême droite, aux gens du gouvernement complices...
📣 Wir möchten eine Mapping Party in Kiel starten und zusammen mit euch die Karte in unserer Umgebung ein wenig vollständiger machen!
🗺️ Hilf uns mit! Erstelle einen Account auf openstreetmap.org und lade dir Streetcomplete (fDroid App für Android), SCEE (fDroid App für Android) oder Every Door (iOS) herunter. Nach einer kleinen Anleitung vor Ort machen wir dann einen netten Spaziergang durch Kiel.
🎯 Montag, 24.07. um 19 Uhr vor der Alten Mu im Lorentzendamm 6-8
🇬🇧 The Court of Human Rights indicts Russia for tracking down and fining a peaceful protester using facial recognition technologies. This is we fight to ban #biometricMassSurveillance in the EU!
1/2
Das 40,00€ teurer gewordene Nachfolgeticket zum 9-Euro-Ticket soll Daten melken. Zwar solle das Ticket übergangsweise nicht nur für Smartphones erhältlich sein sondern auch auf Chip-Karten und kurzzeitig auf Papier mit QR-Code, aber wichtig scheint es den Regierenden vor allem anderen, dass mit dem 49€-Ticket Echtzeit-Verkehrsdaten erhoben werden können.
Positiv klingt zunächst: "Es werde nicht gespeichert, wer von A nach B fährt, sondern nur, wie stark die Verkehrsmittel ausgelastet sind. Für die Fahrgäste könnte das ein Nutzen sein, weil die Verkehrsunternehmen so für ausreichend Kapazitäten sorgen könnten."
Allerdings: Das Ticket wird wohl nur als Abo personalisiert erworben werden können, so dass darüber anfallende Personendaten zukünftig schnell integriert werden könnten. Mit Hinblick auf den aktuellen massiven Ausbau des Überwachungsstaats und der Kontrollgesellschaft in Deutschland und der EU (digitale Personenkennziffer/RegMod, Chatkontrolle, Identifizierungspflicht, Biometrie, eIDAS uvm) ist es doch auch gar nicht die Frage ob, sondern nur wann und mit welchem Vorwand (Anschläge, Pandemie, Jugendschutz, Wahlkampf) personalisierte Datenerfassung und Polizeizugriffe kommen werden, sobald die digitale Kontrollinfrastruktur erst einmal errichtet wurde.
EU-Kommission prüft Zugriff auf Biometriedaten durch US-Polizei
"US-Behörden wollen Fingerabdrücke und Gesichtsbilder in insgesamt 40 Staaten abfragen, die meisten davon in #Europa. Mit einem Kniff setzt sich die EU-Kommission an die Spitze der Gespräche über das Vorhaben.
(...)
Anstatt die US-Regierung deshalb zu maßregeln und das daran gekoppelte EBSP auf Eis zu legen, treibt die Kommission dieses noch voran. Brüssel verfolge dazu einen „pragmatischen Ansatz“, indem die geforderte „Grenzpartnerschaft“ als „von Fragen im Zusammenhang mit der Visapolitik getrennt“ behandelt wird."
via @matthimonhttps://netzpolitik.org/2023/alleingang-in-bruessel-eu-kommission-prueft-zugriff-auf-biometriedaten-durch-us-polizei/