Das Bundesverfassungsgericht prüft, ob die Verwendung der Polizeisoftware “Hessendata” verfassungsgemäß ist. Kritiker befürchten Diskriminierung und dass Unbeteiligte ins Visier der Polizei geraten.
Die Polizei im Bundesland Hessen verwendet die Software bereits seit 2017: “Hessendata”, heißt sie. Aus der Sicht der Kritiker handelt es sich um eine Überwachungssoftware. Im Stadtstaat Hamburg soll das Programm, das von der US-Firma Palantir entwickelt wurde, ebenfalls eingeführt werden. Mit der Software kann die Polizei große Mengen Daten analysieren und so Zusammenhänge zwischen Menschen, Organisationen oder Vorfällen in unterschiedlichen Regionen herstellen.
Hessen und Hamburg haben ihr jeweiliges Polizeigesetz schon entsprechend geändert; die Polizei ist im deutschen Föderalismus Ländersache. Doch ob die Verwendung der Software mit dem deutschen Grundgesetz vereinbar ist, darüber muss jetzt das Bundesverfassungsgericht in Karlsruhe entscheiden. Diese Woche fanden dazu Anhörungen statt.
Die Polizei im Bundesland Hessen verwendet die Software bereits seit 2017: “Hessendata”, heißt sie. Aus der Sicht der Kritiker handelt es sich um eine Überwachungssoftware. Im Stadtstaat Hamburg soll das Programm, das von der US-Firma Palantir entwickelt wurde, ebenfalls eingeführt werden. Mit der Software kann die Polizei große Mengen Daten analysieren und so Zusammenhänge zwischen Menschen, Organisationen oder Vorfällen in unterschiedlichen Regionen herstellen.
Koordiniert hat die Verfassungsbeschwerden die Gesellschaft für Freiheitsrechte, GFF, die elf Kläger einschließlich der prominenten Frankfurter Rechtsanwältin Seda Basay-Yildiz vertritt. Die Kläger argumentieren, dass mit der Analysesoftware etwa aus den sozialen Medien komplexe Persönlichkeitsprofile erstellt werden und Unbeteiligte ins Visier der Polizei geraten könnten, schon bevor ein Verbrechen überhaupt begangen wurde, oder weil sie sich in der Nähe eines Tatorts aufgehalten haben.
Datenpuzzle “Hessendata”
Die hessische Landesregierung vertritt dagegen die Ansicht, die Software werte lediglich Daten aus, die die Polizei aus anderen Quellen bereits habe, etwa Aufzeichnungen von Überwachungskameras oder öffentliche Daten aus dem Internet. Mit ihr ließen sich Anschläge wie den vom Berliner Breitscheidplatz vor sechs Jahren verhindern. Auch vor der Razzia gegen ein mutmaßliches “Reichsbürger”-Netzwerk Anfang Dezember habe die Polizei das Beziehungsgeflecht rund um einen Hauptverdächtigen dank der Software schnell darstellen können.
Bei Anschlägen sei es gar nicht mehr möglich, alle Daten händisch auszuwerten, sagte Daniel Muth vom Landesinnenministerium in Wiesbaden. Arne Schwoch vom Hamburger Landeskriminalamt verwies darauf, dass der Zeitfaktor bei Ermittlungen eine große Rolle spiele.
Was genau das Programm kann und was an Auswertung die Gesetzeslage zulässt, darum ging es bei der Anhörung am Dienstag vor dem Bundesverfassungsgericht. Ein hessischer Ministerialbeamter schilderte einen typischen Anwendungsfall der Software: Nach einer Serie von Geldautomatensprengungen wurde ein Verdächtiger gefasst. Die Daten aus dem Navigationsgerät des Fluchtfahrzeugs wurden gesichert und mit “Hessendata” ausgewertet. So konnte nachgewiesen werden, dass der Wagen jeweils an den Tatorten der Sprengserie war, der Verdächtige galt als überführt.
Das Beispiel zeigt nach den Worten der “Legal Tribune Online”, “dass die Nutzung von ‘Hessendata’ noch recht nahe an klassischer Polizeiarbeit ist”. Aber das Programm kann offenbar noch viel mehr.
Die Organisation Algorithmwatch analysiert die Auswirkungen algorithmischer Entscheidungsfindungsprozesse auf menschliches Verhalten und zeigt ethische Konflikte auf. Laut Algorithmwatch bringt “Hessendata” Informationen aus Polizeidatenbanken mit Telefon- und Social-Media-Daten zusammen, um gegen mögliche Verbrecher und Terroristen zu ermitteln. Die hessische Polizei will das Programm auch bei Ermittlungen gegen Kindesmissbrauch einsetzen.
Kritik gegen die Software, die bereits von der Polizei in vielen europäischen Ländern eingesetzt wird, wurde bereits früher geäußert. Laut der Gesellschaft für Freiheitsrechte kann man in gewissem Maße damit Straftaten und die Identität von Straftätern vorhersagen. Es bestehe auch die Befürchtung, dass das Programm mithilfe von künstlicher Intelligenz “Racial Profiling” bei möglichen Straftätern betreibt. Beim “Racial Profiling” kontrolliert etwa die Polizei in unzulässiger Weise Personen vor allem nach bestimmten äußeren Merkmalen und behandelt sie damit pauschal als verdächtig. Der Vorwurf wurde immer wieder gegen deutsche und vor allem hessische Polizisten erhoben.
Hessens Innenminister Peter Beuth (CDU) betonte bei der Anhörung im Bundesverfassungsgericht, “Hessendata” werte nicht das gesamte Internet und auch nicht die sozialen Netzwerke aus. Die Software nutze auch keine künstliche Intelligenz (KI). Es handele sich lediglich um eine Plattform, die bereits verfügbare Daten zusammenführe. “Nur wenn wir alle Puzzleteile einer Gefahr zusammenbringen, wird die Gefahr erkennbar”, sagte Beuth.
Der Rechts- und Verwaltungswissenschaftler Markus Thiel von der Deutschen Hochschule der Polizei vertrat bei der Anhörung in Karlsruhe den Stadtstaat Hamburg. Er sagte, die Gesetzeslage zu dem, was die Polizei dürfe und was nicht, sei bereits sehr klar. “Mir ist ganz wichtig, dass die Normen, die wir da haben, im hessischen Gesetz und auch im Hamburger Gesetz, klare Voraussetzungen formulieren”, sagte Thiel der DW. “Und die sagen, es geht nur zur Vorbeugung und Bekämpfung von schweren Straftaten, und das geht auch nur zur Abwehr gravierender Gefahren.”
Im Moment müsse man “nicht damit rechnen, dass die Polizei mit KI-Systemen sozusagen dauernd die Bürgerinnen und Bürger aus den Daten überwacht, um dort für die Zukunft mal irgendwann nutzbare Persönlichkeitsprofile zu erstellen”. Nach dem bestehenden Gesetz müssten bereits Informationen über eine Bedrohung vorliegen. Dass man Straftaten voraussehen wolle, sei auch nicht gemeint.
“Das ist eine Plattform, wo man einen Überblick bekommt. Damit kann man zum Beispiel Tätergruppen identifizieren, wo man bisher immer nur Einzelanhaltspunkte hat”, sagt Thiel. “Oder im Bereich der Kinderpornografie, wenn man da einen Ring von Konsumenten und Anbietern aushebeln will, dann ist es oft schwierig, aus der Fülle der Information, die der Polizei in den Datenbanken zur Verfügung steht, ein Gesamtbild zu erstellen. Dazu kann diese Software dienen.”
Das Problem sei aber, glaubt der Soziologe Simon Egbert von der Universität Bielefeld, dass die Polizei zwar einen Grund brauche, um in die Privatsphäre von Personen einzudringen, Hessendata aber “genau anders herum funktioniert: Man will über den Dateneingriff Verdachtsmomente generieren.” Viele Daten der Polizei, ein Teil davon über die sozialen Medien, würden aus ganz anderen Gründen erfasst. “Es kann sich eigentlich nur hinterher zeigen: ‘war das eigentlich gerechtfertigt, was wir da gemacht haben, oder nicht?'”
Ob dies grundgesetzkonform ist, muss jetzt das Bundesverfassungsgericht bewerten. Das Urteil wird voraussichtlich nicht nur auf Hessen und Hamburg Auswirkungen haben: Auch in Nordrhein-Westfalen wird die Software seit kurzem eingesetzt. Auch dagegen liegt eine weitere Verfassungsbeschwerde in Karlsruhe vor. Andere Bundesländer prüfen die Möglichkeiten. Ein Urteil zu den Regelungen in Hessen und Hamburg dürfte erst in einigen Monaten fallen.
Die Polizei im Bundesland Hessen verwendet die Software bereits seit 2017: “Hessendata”, heißt sie. Aus der Sicht der Kritiker handelt es sich um eine Überwachungssoftware. Im Stadtstaat Hamburg soll das Programm, das von der US-Firma Palantir entwickelt wurde, ebenfalls eingeführt werden. Mit der Software kann die Polizei große Mengen Daten analysieren und so Zusammenhänge zwischen Menschen, Organisationen oder Vorfällen in unterschiedlichen Regionen herstellen.
Hessen und Hamburg haben ihr jeweiliges Polizeigesetz schon entsprechend geändert; die Polizei ist im deutschen Föderalismus Ländersache. Doch ob die Verwendung der Software mit dem deutschen Grundgesetz vereinbar ist, darüber muss jetzt das Bundesverfassungsgericht in Karlsruhe entscheiden. Diese Woche fanden dazu Anhörungen statt.
Datenpuzzle “Hessendata”
Koordiniert hat die Verfassungsbeschwerden die Gesellschaft für Freiheitsrechte, GFF, die elf Kläger einschließlich der prominenten Frankfurter Rechtsanwältin Seda Basay-Yildiz vertritt. Die Kläger argumentieren, dass mit der Analysesoftware etwa aus den sozialen Medien komplexe Persönlichkeitsprofile erstellt werden und Unbeteiligte ins Visier der Polizei geraten könnten, schon bevor ein Verbrechen überhaupt begangen wurde, oder weil sie sich in der Nähe eines Tatorts aufgehalten haben.
Die hessische Landesregierung vertritt dagegen die Ansicht, die Software werte lediglich Daten aus, die die Polizei aus anderen Quellen bereits habe, etwa Aufzeichnungen von Überwachungskameras oder öffentliche Daten aus dem Internet. Mit ihr ließen sich Anschläge wie den vom Berliner Breitscheidplatz vor sechs Jahren verhindern. Auch vor der Razzia gegen ein mutmaßliches “Reichsbürger”-Netzwerk Anfang Dezember habe die Polizei das Beziehungsgeflecht rund um einen Hauptverdächtigen dank der Software schnell darstellen können.
Bei Anschlägen sei es gar nicht mehr möglich, alle Daten händisch auszuwerten, sagte Daniel Muth vom Landesinnenministerium in Wiesbaden. Arne Schwoch vom Hamburger Landeskriminalamt verwies darauf, dass der Zeitfaktor bei Ermittlungen eine große Rolle spiele.
Was genau das Programm kann und was an Auswertung die Gesetzeslage zulässt, darum ging es bei der Anhörung am Dienstag vor dem Bundesverfassungsgericht. Ein hessischer Ministerialbeamter schilderte einen typischen Anwendungsfall der Software: Nach einer Serie von Geldautomatensprengungen wurde ein Verdächtiger gefasst. Die Daten aus dem Navigationsgerät des Fluchtfahrzeugs wurden gesichert und mit “Hessendata” ausgewertet. So konnte nachgewiesen werden, dass der Wagen jeweils an den Tatorten der Sprengserie war, der Verdächtige galt als überführt.
Was kommt zuerst: Verdacht oder Ermittlung?
Das Beispiel zeigt nach den Worten der “Legal Tribune Online”, “dass die Nutzung von ‘Hessendata’ noch recht nahe an klassischer Polizeiarbeit ist”. Aber das Programm kann offenbar noch viel mehr.
Rechtfertigung fürs Datenerfassen oft “erst hinterher”
Die Organisation Algorithmwatch analysiert die Auswirkungen algorithmischer Entscheidungsfindungsprozesse auf menschliches Verhalten und zeigt ethische Konflikte auf. Laut Algorithmwatch bringt “Hessendata” Informationen aus Polizeidatenbanken mit Telefon- und Social-Media-Daten zusammen, um gegen mögliche Verbrecher und Terroristen zu ermitteln. Die hessische Polizei will das Programm auch bei Ermittlungen gegen Kindesmissbrauch einsetzen.
Kritik gegen die Software, die bereits von der Polizei in vielen europäischen Ländern eingesetzt wird, wurde bereits früher geäußert. Laut der Gesellschaft für Freiheitsrechte kann man in gewissem Maße damit Straftaten und die Identität von Straftätern vorhersagen. Es bestehe auch die Befürchtung, dass das Programm mithilfe von künstlicher Intelligenz “Racial Profiling” bei möglichen Straftätern betreibt. Beim “Racial Profiling” kontrolliert etwa die Polizei in unzulässiger Weise Personen vor allem nach bestimmten äußeren Merkmalen und behandelt sie damit pauschal als verdächtig. Der Vorwurf wurde immer wieder gegen deutsche und vor allem hessische Polizisten erhoben.
Hessens Innenminister Peter Beuth (CDU) betonte bei der Anhörung im Bundesverfassungsgericht, “Hessendata” werte nicht das gesamte Internet und auch nicht die sozialen Netzwerke aus. Die Software nutze auch keine künstliche Intelligenz (KI). Es handele sich lediglich um eine Plattform, die bereits verfügbare Daten zusammenführe. “Nur wenn wir alle Puzzleteile einer Gefahr zusammenbringen, wird die Gefahr erkennbar”, sagte Beuth.
Der Rechts- und Verwaltungswissenschaftler Markus Thiel von der Deutschen Hochschule der Polizei vertrat bei der Anhörung in Karlsruhe den Stadtstaat Hamburg. Er sagte, die Gesetzeslage zu dem, was die Polizei dürfe und was nicht, sei bereits sehr klar. “Mir ist ganz wichtig, dass die Normen, die wir da haben, im hessischen Gesetz und auch im Hamburger Gesetz, klare Voraussetzungen formulieren”, sagte Thiel der DW. “Und die sagen, es geht nur zur Vorbeugung und Bekämpfung von schweren Straftaten, und das geht auch nur zur Abwehr gravierender Gefahren.”
Im Moment müsse man “nicht damit rechnen, dass die Polizei mit KI-Systemen sozusagen dauernd die Bürgerinnen und Bürger aus den Daten überwacht, um dort für die Zukunft mal irgendwann nutzbare Persönlichkeitsprofile zu erstellen”. Nach dem bestehenden Gesetz müssten bereits Informationen über eine Bedrohung vorliegen. Dass man Straftaten voraussehen wolle, sei auch nicht gemeint.
“Das ist eine Plattform, wo man einen Überblick bekommt. Damit kann man zum Beispiel Tätergruppen identifizieren, wo man bisher immer nur Einzelanhaltspunkte hat”, sagt Thiel. “Oder im Bereich der Kinderpornografie, wenn man da einen Ring von Konsumenten und Anbietern aushebeln will, dann ist es oft schwierig, aus der Fülle der Information, die der Polizei in den Datenbanken zur Verfügung steht, ein Gesamtbild zu erstellen. Dazu kann diese Software dienen.”
Das Problem sei aber, glaubt der Soziologe Simon Egbert von der Universität Bielefeld, dass die Polizei zwar einen Grund brauche, um in die Privatsphäre von Personen einzudringen, Hessendata aber “genau anders herum funktioniert: Man will über den Dateneingriff Verdachtsmomente generieren.” Viele Daten der Polizei, ein Teil davon über die sozialen Medien, würden aus ganz anderen Gründen erfasst. “Es kann sich eigentlich nur hinterher zeigen: ‘war das eigentlich gerechtfertigt, was wir da gemacht haben, oder nicht?'”
Ob dies grundgesetzkonform ist, muss jetzt das Bundesverfassungsgericht bewerten. Das Urteil wird voraussichtlich nicht nur auf Hessen und Hamburg Auswirkungen haben: Auch in Nordrhein-Westfalen wird die Software seit kurzem eingesetzt. Auch dagegen liegt eine weitere Verfassungsbeschwerde in Karlsruhe vor. Andere Bundesländer prüfen die Möglichkeiten. Ein Urteil zu den Regelungen in Hessen und Hamburg dürfte erst in einigen Monaten fallen.
