Die Stadt gehört uns allen!

Vortrag auf der re:publica Hamburg
21.09.2024 14:10 Uhr – 14:40 Uhr - Neo House

UPDATE: Der Vortrag ist jetzt online verfügbar.

"Atypisch": Wie die Hamburger Polizei KI zur Verhaltensüberwachung einsetzt

Im Sommer 2023 startete die Polizei Hamburg ein KI-Überwachungsprojekt am Hansaplatz, das "atypisches Verhalten" erkennen und melden sollte. Ende des Jahres wurde stolz der Ausbau des Projekts und seine bemerkenswerte Trefferquote von 92% verkündet. Doch wie aussagekräftig ist diese Zahl überhaupt? Und welche Verhaltensweisen markiert das KI-System als "atypisch"?

Wir vom Bündnis Hansaplatz haben uns das System und Details zur Evaluation genauer angesehen. Trotz mangelnder Transparenz der Behörden konnten wir dabei aufdecken, dass die Realität der KI-Überwachung weit weniger beeindruckend ist als behauptet.

Erfahrt in unserem Vortrag, wie irreführende Zahlen und intransparente Kommunikation den Ausbau dieser Technologie rechtfertigen sollen und welche Auswirkungen das auf die Menschen am Hansaplatz und auf unsere Freiheitsrechte hat.

Petition gegen die Bezahlkarte in Hamburg

Wir als Bündnis setzen uns nicht nur gegen Überwachung, sondern auch für soziale Gerechtigkeit ein. Die Bezahlkarte für Asylbewerber*innen betrifft, wie viele andere Projekte auch, beide Themen. Daher möchten wir auf die NEIN zur "Bezahlkarte" in Hamburg hinweisen.

Pressemitteilung zur Evaluation des Pilotprojekts zur KI-Überwachung am Hansaplatz (Stand 09.04.2024)

Irreführende Kommunikation über Ergebnisse der KI-Überwachung am Hansaplatz

Ende 2023 wurde in einer knappen dpa-Meldung bekannt gegeben, dass die intelligente Videobeobachtung nach erfolgreicher Testphase am Hamburger Hansaplatz im Rahmen eines zweijährigen Anschlussprojektes weiterentwickelt und ausgebaut werden soll. Die Innenbehörde verweist dabei auf eine Evaluation, welche den Nutzen der KI-Überwachung für die "frühzeitige Erkennung von Gefahrensituationen inklusiver schneller polizeilicher Intervention" belege. Einzelheiten zur Evaluierungsmethodik oder den verwendeten Analysekriterien werden in der Meldung nicht genannt.

Im Hinblick auf die Ergebnisse wird berichtet, dass während der Testphase "elf polizeilich relevante Vorfälle von der Technik ausgemacht" worden seien. Darunter war eine gefährliche Körperverletzung, bei der eine Person augenscheinlich gegen den Kopf einer anderen getreten haben soll. Die explizite Hervorhebung der gefährlichen Körperverletzung suggeriert, dass auch die anderen zehn polizeilich relevanten Vorfälle mit schweren Straftaten in Verbindung stehen, wodurch sich der Ausbau der Überwachungstechnologie am Hansaplatz rechtfertigen ließe. Eine Anfrage der Linken an den Senat zeigte jedoch: Kein weiterer "polizeilich relevanter Vorfall" hatte ein Strafverfahren zur Folge.

Vielmehr legt die Senatsantwort dar, dass es sich bei einer Mehrheit der Vorfälle um Situationen ohne klaren Gefahrenbezug handelt (Übersicht der erfassten Vorfälle kann in Anfrage 22/14472 nachvollzogen werden). Das explizite Hervorheben der schweren Körperverletzung in der dpa-Meldung zeichnet demnach das Bild eines Bedrohungsszenarios, welches sich mit einem genauen Blick in die Daten nicht aufrechterhalten lässt.

Kleine Anfragen werfen Fragen zum Framing der Ergebnisse auf

Ende März wurde in einer von SPD und Grünen kürzlich veröffentlichten gemeinsamen Pressemitteilung die Trefferquote des Systems bei der Erkennung vermeintlicher "Gefahrensituationen" mit 92 Prozent beziffert - ohne jeglichen zusätzlichen Kontext zu benennen. Aus der bereits erwähnten (22/14472) sowie einer weiteren (22/13988) kleinen Anfrage der Linken an den Senat ergibt sich jedoch ein deutlich abweichendes Bild von den Ergebnissen des Pilotprojekts am Hansaplatz: Die intelligente Videobeobachtung, die zwischen dem 21. Juli und dem 17. September 2023 eingesetzt wurde, lieferte bei 11 von 12 von der Polizei als "Gefahrensituationen" eingestuften Vorfällen einen Hinweis, was die auch in den Anfragen genannte Trefferquote von 92% erklärt. In den Pressemitteilungen wurde jedoch nicht erwähnt, dass das System während des Testbetriebs durchschnittlich einmal pro Stunde einen Hinweis erzeugte, insgesamt also etwa 1.140 Mal. Die generierten Hinweise bezogen sich damit nur in knapp 0,1% der Fälle auf als "polizeilich relevant" eingestufte Situationen. Von den übrigen Hinweisen wurden nur 64 "stichprobenartig" von der Polizei ausgewertet, um festzustellen, welche Posenschätzungen oder "atypischen Bewegungsmuster" der jeweiligen Detektion des Systems zugrunde lagen. Dabei wurden vermeintlich keine "eindeutig falschen" Detektionen festgestellt. Bei dieser Auswertung musste sich die Polizei offenbar auf ihre eigene Interpretation der Bewegungsmuster auf den Videobildern verlassen, da die vom System detektierten Bewegungsmuster aus "Wirtschaftlichkeitsgründen" bei der Erzeugung der Hinweise nicht mit übertragen wurden, obwohl sie für eine korrekte Auswertung entscheidend sind. Die in den kleinen Anfragen beschriebene Evaluationsmethodik erlaubt daher keine statistisch belastbaren Schlussfolgerungen über den "Erfolg" des pilotierten Systems.

Angesichts der vorgehaltenen Informationen müssen die bisher in der Presse verbreiteten Ergebnisse der intelligenten Videobeobachtung infrage gestellt werden. Es entsteht der Eindruck, dass die Innenbehörde eine ernsthafte Diskussion über die Verhältnismäßigkeit und Wirksamkeit der KI-basierten Überwachungstechnologie mittels irreführender Kommunikation vermeiden möchte. Da die geplanten Überwachungsmaßnahmen täglich Tausende Menschen betreffen und ihre konkrete Ausweitung geplant ist, halten wir das Vorgehen für höchst fragwürdig und undemokratisch.

Betroffene und soziale Einrichtungen am Hansaplatz bleiben außen vor

Das undemokratische Vorgehen der Innenbehörde zeigt sich weiterhin darin, dass weder die in St. Georg ansässige Bevölkerung noch die am Hansaplatz engagierten Vereine und sozialen Einrichtungen in der Evaluation der Testphase ernsthaft berücksichtigt wurden (siehe ebenfalls Anfrage 22/14472). Es stellt sich die Frage, welchen Wert eine Evaluation hat, die die von der Überwachung besonders betroffenen Personen (z. B. Personen, die es sich nicht leisten können, 5€ für ein Bier in einer Bar auf der Langen Reihe zu bezahlen und den öffentlichen Raum am Hansaplatz regelmäßig nutzen oder auch Sozialarbeiter*innen, die mit Sexarbeiter*innen und drogenkonsumierenden Menschen am Hansaplatz zusammenarbeiten) in ihrer Analyse bewusst außen vor lässt. Bereits im Vorfeld der Einführung der KI-Überwachung hatten sich die am Hansaplatz engagierten Vereine und Einrichtungen kritisch gegenüber des Projektes geäußert.

Die Antworten des Senats auf die Anfragen der Linken deuten darauf hin, dass die Testphase der intelligenten Videobeobachtung am Hansaplatz ausschließlich hinsichtlich technischer Aspekte einer (unzureichenden) Evaluation unterzogen wurde. Die Innenbehörde ignoriert die sozialen Belange des Stadtteils und setzt die KI-Überwachung ohne den Einbezug der Akteure, die sich tagtäglich für die Interessen der Menschen am Hansaplatz einsetzen, durch. Eine Evaluation sollte sowohl quantitative als auch qualitative Kriterien berücksichtigen und von einer unabhängigen Institution durchgeführt werden - und dabei die von SPD und Grünen im Koalitionsvertrag vereinbarte "Transparenz, Nachvollziehbarkeit und Überprüfbarkeit" gewährleisten. Der Ausbau der KI-Technologie ist auf Basis der Evaluation und der irreführenden öffentlichen Kommunikation der Innenbehörde nicht zu rechtfertigen

Petition

Unterzeichnet gerne unsere Petition. Wir freuen uns über eure Unterschrift.

Kundgebung gegen Überwachungsstaat und Verdrängung
30.09, 15:00 Uhr Hansaplatz

Der Hansaplatz wird aktuell testweise mit Künstlicher Intelligenz (KI) überwacht. Damit will die Polizei einen Präzedenzfall schaffen, um KI-basierte Videobeobachtung salonfähig zu machen und später an weiteren Orten, wie dem Hamburger Hauptbahnhof, einzusetzen. Hier geht es nicht um Sicherheit, sondern um die Verdrängung von obdach- und wohnungslosen, sowie auch von drogenkonsumierenden Menschen, von Sexarbeiter*innen und weiteren Personengruppen. Echte Unterstützungsmaßnahmen werden damit erschwert und die Sicherheit der Betroffenen stattdessen noch bedroht. Wir fordern daher ein sofortiges Ende der Überwachung und Verdrängung! In einem aktuell laufenden Testprojekt werden die Daten der Videokameras auf dem Hansaplatz von der Polizei mithilfe Künstlicher Intelligenz (KI) ausgewertet. Dabei sollen „atypische Bewegungsmuster“ erkannt werden. Zu diesen zählen Fallen, Treten, Schlagen, Schubsen oder auch Liegen. Begründet wird dies mit mehr Sicherheit und einer effizienteren Polizeiarbeit.

Die aktuelle Umsetzung der KI soll zwar keine Identifizierung durch Gesichtserkennung beinhalten (andere Identifizierungsmöglichkeiten wurden bisher nicht genannt, sind aber vermutlich auch noch nicht in der Umsetzung), dennoch sind Bewegungsabläufe und Körperhaltung von Personen oft ausreichend für eine Identifizierung. Das ist ein Angriff auf die Grundrechte und erschwert eine anonyme Bewegung an öffentlichen Orten oder Teilnahme an Demos! Jede Ausweitung von Überwachung bewirkt außerdem eine Normalisierung solcher Maßnahmen und führt dazu, dass diese immer drastischer werden.

Senat und Polizei sind schon in der Vergangenheit hart gegen obdach- und wohnungslose Menschen vorgegangen. Hinzu kommt der Sparkurs der Ampel-Regierung, welcher drastische Kürzungen im sozialen Bereich vorsieht und so bereits bestehende Probleme verstärkt. In genau dieser Zeit wird die KI-basierte Videoüberwachung am Hansaplatz als einfache Lösung für städtische Probleme präsentiert und fügt sich als zusätzliches Puzzelteil in eine von Investor*innen und Immobilienkonzernen maßgeblich beeinflusste Politik ein, die sich gegen die Menschen richtet, die nicht in das Idealbild einer tourismusfreundlichen Stadt passen. Die KI-überwachung ist ein Instrument zur weiteren Verdrängung von obdach- und wohnunglosen sowie auch von drogenkonsumierenden Menschen, Sexarbeiter*innen und weiteren Personengruppen.

Wissenschaftliche Studien belegen, dass Videoüberwachung Straftaten nicht verhindert. Bestehende Probleme werden nicht gelöst, sondern auf Nebenstraßen und Hinterhäuser verlagert. Dort werden die Risiken für beteiligte Personen deutlich größer, statt kleiner. So fragen wir uns, wer Sicherheit eigentlich definiert und für wessen Sicherheit gesorgt werden soll: Für Passant*innen, obdach- und wohnungslose oder auch drogenkonsumierende Menschen, Sexarbeiter*innen oder andere, denen der Hansaplatz ein Zufluchtsort ist? Oder geht es doch eher um die Sicherheit von Wirtschaftsinteressen von Investor*innen, Politiker*innen und Immobilienkonzernen?

Statt einer Verlagerung der Probleme durch einen Kampf gegen Menschen durch Überwachung und Verdrängung, fordern wir eine Verbesserung der Umstände, die diese realen Probleme verursachen.
Lasst uns dafür gemeinsam ein Zeichen setzen!

Unterzeichner*innen:

Wenn ihr diesen Aufruf unterzeichnen wollt, schickt uns eine Email. Für eine verschlüsselte Kommunikation, nutzt gerne unseren öffentlichen PGP Key.

Schwarz-Roter 1. Mai Bündnis
Hamburg Enteignet
Flora Kocht
Antifa Hoheluft
Viertelzimmer Münzviertel
Unicorns Undogmatische Liste
GoBanyo
Cop Watch Hamburg
Lampedusa Hamburg (Theatre migration club)
Freundeskreis Sternbrücke
Linksaktiv Hamburg-Mitte
Johan Graßhoff, Straßensozialarbeiter für obdachlose Menschen
DIE LINKE Basisorganisation St.Georg
DIE LINKE Landesverband Hamburg
Deniz Celik, innenpolitischer Sprecher der Fraktion DIE LINKE in der Hamburgischen Bürgerschaft
Marco Hosemann, Sprecher der LAG Stadtentwicklung & Wohnen von DIE LINKE. Hamburg
Sabine Ritter, Ko-Landessprecherin DIE LINKE Hamburg
Zwischenstopp Straße Obdachlosenhilfe Hamburg e.V.
anna elbe - Weitblick für Hamburg
Chaos Computer Club Hamburg
Artikel10 e.V. - Verein für digitalen Grundrechtsschutz
Freifunk Hamburg
AlgorithmWatch
Piratenpartei Hamburg
Sea Punks Hamburg
Digitalcourage