Verbraucher & Recht

Hochschwangere Frau festgenommen, Digitalcourage fordert Schutz vor fehleranfälliger „KI“

Medienberichten zufolge ist in den USA erneut eine unschuldige Person aufgrund des Einsatzes von sogenannter „künstlicher Intelligenz“ festgenommen worden. [1][2] Digitalcourage fordert daher ein konsequentes Verbot biometrischer Überwachung im öffentlichen Raum. Verhandlungen für das entsprechende „KI-Gesetz“ sind gerade auf der Zielgeraden.
Dieses Mal traf die fehleranfällige „KI“-Überwachung eine hochschwangere Frau aus Detroit, die durch ein von der Polizei verwendetes System zur Auswertung von Beweismitteln mit automatisierter Gesichtserkennung unschuldig verdächtigt wurde.

„Der Einsatz von biometrischer Überwachung ist eine Gefahr für alle rechtschaffenen Bürger.innen. Hier hat eine „KI“ eine hochschwangere Frau einer Straftat verdächtigt, die sie offensichtlich nichts begangen hatte. So etwas könnte jede.n treffen.“ – Konstantin Macher von Digitalcourage e.V.

Insbesondere Menschen, deren Aussehen nicht einem weißen und männlichen Bild entspricht, werden regelmäßig falsch erkannt und zu Unrecht verdächtigt. So auch in diesem Fall. Sogenannte „künstliche Intelligenz“ ist vereinfacht gesagt ein statistisches Modell, welches basierend auf vielen Daten Wahrscheinlichkeitsvorhersagen macht. „KI“-Systeme werden häufig als rassistisch bezeichnet, weil die Trainingsdaten von „KI“ fast immer durch gesellschaftliche Ungleichheiten verzerrt sind und so diskriminierende Stereotype reproduzieren.

Aktuell laufen Verhandlungen für eine europaweite Regelung von „KI“ und biometrischer Überwachung. Digitalcourage engagiert sich seit Jahren für ein Gesetz zum Schutz der Bevölkerung vor automatisierter Gesichtserkennung. Das sogenannte „KI-Gesetz“ (AI Act) der Europäischen Union befindet sich gerade auf der Zielgerade.
Die Ampelkoalition hat im Koalitionsvertrag versprochen, sich für ein Verbot biometrischer Massenüberwachung ohne Ausnahmen zu engagieren. Im Januar hatte Digitalcourage aber nachgewiesen, dass sich die deutsche Bundesregierung bei den Verhandlungen für Ausnahmen stark macht und so den Koalitionsvertrag gebrochen hat. Die Ampel möchte genau diese Form der zeitlich nachgelagerten Gesichtserkennung erlauben, durch die in diesem Fall die hochschwangere Frau unschuldig festgenommen wurde.

„Jetzt sollte sich auch bei der Ampel endlich die Erkenntnis durchsetzen, dass der Einsatz von Gesichtserkennung im öffentlichen Raum eine Gefahr für Leib und Leben ist. Wir appellieren an die Bundesregierung, sich jetzt endlich – wie im Koalitionsvertrag versprochen – für den Schutz von Demokratie und Menschenrechten einzusetzen. Das bedeutet ein konsequentes Verbot von biometrischer Überwachung ohne Wenn und Aber!“ – Konstantin Macher von Digitalcourage e.V.

Weiterführende Links
[1] https://www.heise.de/news/Gesichtserkennung-fehlgeschlagen-Hochschwangere-faelschlicherweise-festgenommen-9236436.html
[2] https://www.nytimes.com/2023/08/06/business/facial-recognition-false-arrest.html
[3] https://digitalcourage.de/blog/2023/biometrie-ampel-bricht-koalitionsvertrag

Über den digitalcourage e.V.

Digitalcourage engagiert sich seit 1987 für Grundrechte, Datenschutz und eine lebenswerte Welt im digitalen Zeitalter. Wir sind technikaffin; doch wir wehren uns dagegen, dass unsere Demokratie „verdatet und verkauft“ wird. Wir klären auf und mischen uns in Politik ein. Digitalcourage ist gemeinnützig, finanziert sich durch private Spenden und lebt durch die Arbeit vieler Freiwilliger.

Firmenkontakt und Herausgeber der Meldung:

digitalcourage e.V.
Marktstraße 18
33602 Bielefeld
Telefon: +49 (521) 16391639
Telefax: +49 (521) 61172
http://digitalcourage.de

Ansprechpartner:
Konstantin Macher
Telefon: +49 (521) 1639-1639
E-Mail: presse@digitalcourage.de
Für die oben stehende Pressemitteilung ist allein der jeweils angegebene Herausgeber (siehe Firmenkontakt oben) verantwortlich. Dieser ist in der Regel auch Urheber des Pressetextes, sowie der angehängten Bild-, Ton-, Video-, Medien- und Informationsmaterialien. Die United News Network GmbH übernimmt keine Haftung für die Korrektheit oder Vollständigkeit der dargestellten Meldung. Auch bei Übertragungsfehlern oder anderen Störungen haftet sie nur im Fall von Vorsatz oder grober Fahrlässigkeit. Die Nutzung von hier archivierten Informationen zur Eigeninformation und redaktionellen Weiterverarbeitung ist in der Regel kostenfrei. Bitte klären Sie vor einer Weiterverwendung urheberrechtliche Fragen mit dem angegebenen Herausgeber. Eine systematische Speicherung dieser Daten sowie die Verwendung auch von Teilen dieses Datenbankwerks sind nur mit schriftlicher Genehmigung durch die United News Network GmbH gestattet.

counterpixel