Lieber Zuschauer, dieser Untertitel wurde automatisch generiert von YouTube und dementsprechend (sehr) fehlerhaft. Wenn du kannst, hilf uns bitte gute Untertitel zu erstellen: https://c3subtitles.de/talk/1936 Danke!
[Musik]
ja und zwar kommt jetzt reclaim your
face biometrische massenüberwachung und
wie wir uns dagegen wehren können das
wird von zwei spannenden Kollegen
irgendwie vorgetragen auf der einen
Seite ist das kantorkel so
zertifizierter irgendwie Teleshopping
ultra habe ich gehört aus Hamburg der
sowohl beim freifogen bei torknoten
macht er mit ja und jetzt macht er
sozusagen auch diese reclaim your face
Initiative und ist da auch so eine
kleine treibende Kraft die immer wichtig
ist dass sowas da ist um solche Sachen
auch voranzubringen und Nummer zwe von
dem Duo Infernale was jetzt gleich
kommen wird ist Wick der eine oder
andere wird wenn er gleich das Bild
sieht sagen e warte mal warte mal den
kenne ich doch aus aus dem Fernsehen von
von von von dieser von dieser Elektro
Punk Bank die immer so Datenschutz
awareness mit Punk also das ist
eigentlich so das beste was es gibt
richtig Systemabsturz das ist der wig
und der wird sozusagen auch noch
irgendwie ein Teil dieses Vortrags
halten und an der Stelle würde ich jetzt
erstmal sagen bevor ich alles irgendwie
schon Spoiler lassen wir sie jetzt
einfach reinkommen ich sag Applaus
Applaus Applaus vorab und ja
stages ja schönen Dank für die nette
Begrüßung ich ich bin kantorkel ich bin
Wick hi und wir erzählen euch euch heute
erstmal was zu biometrischer Überwachung
in Deutschland und auch ein bisschen in
Europa und danach erzählen wir was zu
der Initiative reclaim your
face als kleine Erinnerung es dreht sich
heute um biometrische Daten das sind
Daten die unseren Körper oder unser
Verhalten beschreiben das kann z.B unser
Fingerabdruck sein das kann unser
Gesicht sein
aber diese Daten können auch beschreiben
wie wir z.B gehen oder wie wir auf einer
Tastatur tippen diese Daten sind
prinzipiell einmalig das heißt wir
können über diese Daten identifiziert
werden sie sind unveränderbar und
konstant über die Zeit und sie sind
messbar und
universal das Problem ist dass die
eingesetzten Verfahren wenn ich
biometrische Verfahren habe häufig
diskrimieren diskriminieren sind oder
fehleranfällig und gepart mit einer
gewissen Technikgläubigkeit ist das
Ganze gefährlich denn wenn z.B
irgendeine Überwachungskamera die
behauptet intelligent zu
sein sagt da läuft ein Straftäter rum
und ich stecke die Person in Knast und
hinterher stellt sich raus die Person
wager kein Straftäter dann ist das ganze
nicht
gut das ganze ist auch gefährlich weil
ich mich schlecht vor biometrischer
Überwachung verstecken kann ich kann
mein Gesicht nicht einfach so
nennenswert verändern und wenn ich es
ein bisschen verändere hilft das nicht
ich habe hier ein paar Bilder
mitgebracht da ist eine Person die hat
mal längere Haare mal ist sie jünger mal
ist sie älter mal ist sie geschminkt Mal
hat sie ein Bart das alles hilft nicht
um vor biometrischer Überwachung sich zu
verstecken und genauso wenig hilft eine
Gesichtsmaske die wir dank Pandemie
draußen relativ häufig tragen
genau es geht also um biometrische Daten
und auch in Deutschland wird mit
biometrischen Technologien
experimentiert und zwar im öffentlichen
Raum man macht uns alle einfach so ohne
uns zu fragen zu
Versuchskaninchen bekannt ist
wahrscheinlich das Beispiel vom Berliner
Südkreuz da hat die Bundespolizei mit
dieser
Risikotechnologie herumspielen wollen
die die Polizei war mit dem Versuch der
2017 dort durchgeführt worden ist ganz
zufrieden allerdings waren die
Ergebnisse massiv geschönt worden und
halbwegs brauchbar waren die Ergebnisse
auch nur wenn man ideale Bedingung für
die Fotos hergestellt hat und wenn man
gleichzeitig mehrere Systeme miteinander
verbunden hat was man in der Praxis auch
nicht machen würde in Wahrheit war
dieser Versuch also ein
Reinfall trotzdem gab es 2020 noch einen
Austausch zwischen der Berliner Polizei
der Bundespolizei
und einem ähnlichen Versuch am Flughafen
Prag auch dort hat man Gesichtserkennung
ausprobiert wir haben versucht dort
Unterlagen zu diesem Austausch zu
erhalten überfragt den Staat Abgeordnete
haben im Bundestag freundlicherweise
auch die richtigen schriftlichen Fragen
oder kleinen Anfragen gestellt und da
haben wir leider auch nichts weiter
herausbekommen das heißt wir wissen nur
dass dann 2020 noch mal ein Austausch
zwischen Flughafen Prag und Berliner
Polizei stattgefunden hat aber wir
wissen nicht so richtig
worüber dort gesprochen wurde jedoch
wissen wir dass die Bundespolizei 2020
auch noch mal gesagt hat dass
Gesichtserkennung im Regelbetrieb
eingesetzt werden kann und das zeigt
auch dieser Versuch von 2017 momentan
ist wegen der gelten geltenden
Rechtslage aber kein weiterer
Erfahrungsaustausch mit der
tschechischen Polizei geplant also das
der Versuch ist abgeschlossen aber
irgendwie passieren da im Hintergrund
noch Dinge es ist aber sehr schwierig
dort Transparenz herzustellen und an
Information zu
kommen ein anderes nicht so schönes
Thema ist der G20 Gipfel der 2017 in
Hamburg stattgefunden hat
während des Gipfels und nach dem Gipfel
hat die Polizei mehr als 100 TB an Bild
und Videomaterial eingesammelt 17 TB
davon wurden auch biometrisch
verarbeitet und wieder passierte das
ohne die Betroffenen vorher zu fragen
und das heißt die Polizei hat dort
einfach äh besonders sensible Daten
verarbeitet und wahrscheinlich sogar
ohne eine Rechtsgrundlage da gibt es äh
noch ein Rechtsstreit der noch nicht
abgeschlossen ist das Videomaterial
stammte aus verschiedensten Quellen da
wurden Kameras von U-Bahnhöfen angezapft
oder von Bussen im öffentlichen Personen
Nahverkehr aber es gab auch ein
hinweisportal wo Privatpersonen einfach
Videos hochladen konnten und ja alle
möglichen Daten wurden dann von der
Polizei mit einer bestimmten Software im
Nachhinein biometrisch verarbeitet das
Besondere hier ist also das ganz
normales Bild und Videomaterial genutzt
wurde wo noch gar keine Biometrie drin
steckt und dieses Material wurde dann im
Nachhinein biometrisch verarbeitet und
analysiert auch der Hamburgische
Datenschutzbeauftragte fand das ganze
nicht so lustig hat unter anderem
angeordnet dass die Polizei die Daten
löschen soll die Polizei hat das na
ignoriert sie sah sich im Recht mehr
konnte der Datenschutzbeauftragte in dem
Moment nicht durchsetzen und genau dazu
läuft jetzt immer noch ein Rechtsstreit
ich glaube vom hamburgischen
Oberverwaltungsgericht und da hören wir
hoffentlich bald
dass das was die Polizei da 2017 in
Hamburg getan hat nicht rechtens
war ja weiteres schönes Thema was auch
2017 seine ersten Schritte ging und zwar
geht es um die gesichtersuchmaschine
clearview AI diese gesichtersuchmaschine
wurde z 2020 bekannt und zwar wurde im
Januar 2020 in der New York Times
erstmalig groß über diese gesichters
Suchmaschine berichtet diese
Suchmaschine hat mehr als 3 Milliarden
Bilder im Internet durchsucht und die
Gesichter dazu biometrisch
analysiert als Service wurde diese
Suchmaschine dann nicht nur
Strafverfolgungsbehörden aber auch
irgendwelchen reichen Leuten z.B als
Spielzeug zur Verfügung gestellt die
dann von irgendwelchen Passanten z.B
Bilder hochladen konnten und diese
Suchmaschine hat dann alle möglichen
Fundstellen des gleichen Gesichts im
Internet
bereitgestellt und genau das ist das
Problem die Suchmaschine sucht nicht
einfach nach ähnlichen Bildern sondern
die Suchmaschine sucht nach ähnlichen
Gesichtern wenn ich heute mit ein
herkömmlichen Suchmaschine ein aktuelles
Foto von mir hochladen würde und danach
suchen würde dann würde würde ich
wahrscheinlich kein ähnliches Bild
suchen aber bei clearview AI kann ich
ein ähnliches kann ich ein Bild ein
aktuelles Bild von mir hochladen das
Gesicht wird in diesem Bild
identifiziert biometrisch verarbeitet
und anschließend zeigt mir die
Suchmaschine alle möglichen funstellen
im Internet wo das gleiche Gesicht auch
schon mal aufgetaucht ist das heißt
diese Suchmaschine stellt eine Technik
bereit mit der ich mich an eine Demo
stellen könnte und ich könnte dann Leute
die bei dieser Demo mit demonstrieren
identifizieren sofern die Leute
irgendwie in den letzten 20 Jahren mal
im Internet aufgetaucht sind mit einem
Foto ja ich habe diese Suchmaschine auch
angeschrieben habe den sogar ein Foto
von mir geschickt und habe gesagt ich
hätte gerne eine Kopie meiner Daten und
habe sie aufgefördert meine Daten zu
löschen schließlich sind biometrische
Daten nach
datenschutzgrundverordnung besonders
sensible Daten und besonders geschützt
ich war ein bisschen überrascht als die
Suchmaschine dann auch geantwortet hat
die Antwort seht ihr hier das erste das
ist das Suchbild dass ist dass ich
eingereicht habe die Bilder 1 und 2
waren tatsächlich Fotos von mir die
irgendwo im Internet liegen und dann
wurden noch sieben weitere Bilder
gezeigt die nicht mein Gesicht zeigen
das heißt hier sieht man auch clearvie
ai liefert gar keine perfekten ergeb
sondern auch da kann es falsche
Ergebnisse
geben ja nachdem ich diese Antwort von
clearaii bekam habe ich mich beim
hamburgischen Datenschutzbeauftragten
beschwert zuerst gab es da ein bisschen
hin und her weil ich der Meinung war
dass er zuständig sei wegen der
datenschutzgrundverordnung und er war
der Auffassung dass die
datenschutzgrundverordnung nicht
anwendbar sei da wurden wir uns aber
einig er hat ein Verfahren eröffnet und
und mit Unterstützung von non of your
business haben wir es dann gemeinsam
erreicht dass clearview Ai
schließlich im Februar 2021 also nach
gut einem Jahr mein biometrisches Datum
löschen musste gleichzeitig wurde
festgestellt dass diese Verarbeitung D
CEV a illegal war zumindest in der
Europäischen Union das Problem dass wir
hierbei immer noch sehen ist dass ich
mich beschwert habe dass nur mein
biometrisches Datum in im gelöscht
worden ist und obwohl wir wissen dass
viele andere Europäerinnen und Europäer
auch in dieser Datenbank stecken und
auch betroffen sind hat die Anordnung
des Hamburgischen
Datenschutzbeauftragten nur meine
Person abgedeckt insofern schauen wir
auch hier weiter was man da noch machen
kann ja clearview ai ist leider längst
nicht mehr die einzige Gesichter
Suchmaschine eine die ursprünglich in
Polen war ist pimis diese Suchmaschine
gibt es seit
2019 hier sehen wir ihre beiden Gründer
Lukas kowalschik und Dennis tatina die
beiden tauchen nicht so gerne im
Internet auf inzwischen scheinen die
beiden Gesichter von den beiden auf
pimis auch auf einer Blacklist zu sein
da findet man jedenfalls nichts mehr das
war früher
anders und als da dann auch erster
Protest laut wurde ist die Firma ganz
spontan von wosswf nach auf diese
Schellen umgezogen das heißt hat sich
der datenschutzgrundverordnung so ein
bisschen entzogen allerdings gibt es
immer noch eine Firma die irgendwie mit
diesen beiden Herren zu tun hat die da
in Polen sitzt die Adresse seht ihr auf
der Folie wenn ihr da zufällig
Verbindung in die Gegend habt wir würden
uns sehr freuen über Infos zu dem was da
heute in diesen Büros passiert es könnte
nämlich sehr interessant sein wenn PIM
de facto heute noch eine Niederlassung
in der Europäischen Union
hat was auch ganz interessant war wir
haben hier neue Verbündete gewonnen und
zwar finden die Polizeigewerkschaften
Gesichtserkennung auch gar nicht mehr so
gut jedenfalls dann wenn alle diese
gesichtserkennungsdienste nutzen können
daher möchte die Polizei möchten die
Polizeigewerkschaften ebenfalls äh dass
dieses pimmeis verboten wird
und damit gebe ich jetzt weiter an
victtor genau ja wir machen jetzt noch
so einen weiteren Überblick was sonst
noch so in Deutschland los ist und haben
so ein Best of vorbereitet an
biometrischen überwachungsprojekten dass
sie einfach so ein bisschen Überblick
kriegt was da gerade so los ist wir
fangen an mit Mannheim in Mannheim gibt
es seit 2018 eine verhaltenserkennung in
der Fußgängerzone wir haben es immer so
ein bisschen aufgeschlüsselt in wo
passiert es was passiert da und gibt es
eine Rechtsgrundlage ähm in diesem Fall
genau es gibt eine verhaltenserkennung
die Leute die das betreiben und zwar die
Polizei in Mannheim sagt nein nein gar
kein Problem auch kein
Datenschutzproblem es gibt ja gar keine
Identifikation sondern es wird nur
geguckt ob Menschen sich komisch
verhalten verdächtig verhalten und wenn
ja kann sofort die Polizeistreife
losgeschickt werden gelöst ist es
darüber dass anscheinend angeblich ganz
datensparsam sofort alle Gesichter
verpixelt werden und dass man gar nicht
genau sieht welche Personen sich da
offene äh äh auffällig verhalten hat
sondern nur dass das passiert ist und
dann als Polizeistreife vorbeigucken
kann da kann man aber natürlich schon
hellhörig werden denn um überhaupt
Gesichter zu verpixeln muss ich
Gesichter erkennen und damit muss ich
auch auf eine gewisse Art und Weise die
biometrische Daten verarbeitet haben sie
sagen selber sie brauchen keine
gerechtsgrundl Grundlage vermutlich gibt
es auch keine Rechtsgrundlage ich glaube
da sind wir uns noch nicht einig und ich
denke das wird sich in Zukunft auch noch
klären lassen aber genau man darf
skeptisch bleiben
ähnlich sieht es an Karls Ruhe aus in
Karlsruhe ist das auch noch geplant da
hängen diese Kameras noch nicht ähm aber
hier gibt es ein paar spannende Sachen
und zwar hier soll auch ein
verhaltensanalysseprojekt im
öffentlichen Raum passieren aber nicht
etwa von der Polizei nein nein sondern
von dem Unternehmen von der EnBW der
badenwürttenbergischen
Energiegesellschaft und die sagen auch
wieder selber nein nein alles okay ist
ja alles anonymisiert das heißt es geht
gar nicht im personenbezogene Daten da
greifen auch die ganzen Gesetze die das
Regulieren greifen gar nicht sei alles
super wir haben mal über das IFG Gesetz
versucht IFG versucht da weitere
Dokumente zu zukriegen die Stadt sagt
können wir nichts sagen es gibt ja noch
gar keine Verträge es bleibt spannend
aber auch hier scheint sich sowas zu
entwickeln dann schauen wir weiter nach
Sachsen in Sachsen haben wir nicht nur
einen kleinen Punkt sondern eine ganze
ganze große Zone und zwar gibt es seit
dem Polizeigesetz 2019 die Befugnis im
Grenzgebiet 30 km um die Grenze entfernt
Gesicht kennungstechnik einzusetzen um
grenzbezogene Kriminalität
zu ahen und zu
finden und da ist mir wäre auch nicht
bekannt dass da schon eine einzige
Kamera hängt aber das gefährliche ist
die Gesetzesgrundlage wäre theoretisch
damit da die Gesellschaft für
Freiheitsrechte hat auch schon
angekündigt dagegen zu klagen und die
versuchen das vor Gericht zu kippen aber
da ist es schon soweit dass es das
Gesetz gibt dann gucken wir weiter in
Köln in unserer überwachungs
gesichtserkennungs rundum schau den Best
of in Köln hängen auch keine Kameras die
jetzt schon Gesichter erkennen und
verarbeiten aber in Köln hängen sehr
sehr viele Kameras die vor allem sehr
sehr gut sind also das nennt man auch
oft biometric ready das heißt das sind
Kameras die von den Spezifikationen von
der Auflösung so gut sind dass sie ohne
weiteres umgestöpselt werden könnten auf
nicht mehr zu einer Leitstelle sondern
zu einem gesichtserkennungssystem und
dann auf einmal ganz viele Gesichter
erkennen
könnten gegen diese sehr sehr vielen
sehr sehr guten Kameras in Köln hat sich
das die Organisation
kamerasstoppen.org schon zu Weg gesetzt
die haben auch da schon erster Folge
gehabt und die versuchen da einfach
diese Kameras wegzuklagen also einfach
zu sagen ey Leute es gibt keine
Rechtsgrundlage diese Kameras müssen
hier weg und genau dann haben wir also
so das das Fazit wir sehen es werden
immer mehr Punkte auf der Karte die
floppen hoch wie kleine
Pilze und insgesamt kann man sagen
teilweise sind Kameras aufgehängt die
zwar noch keine Gesichte erkennen aber
die im Prinzip den ersten Schritt den
ersten voraussetzungsschritt von
biometrischer Gesichtserkennung bereits
erfüllen weil sie schon als Kamera in
der Lage wären dafür das entsprechende
Glied in der Kette zu sein und man merkt
richtig viele Leute haben so richtig
Bock also viel Menschen kitzelt das in
den Fingern und in den verschiedensten
Landespolizeien auch im
Bundesinnenministerium haben Leute so
richtig Lust das aus auszuprobieren und
deshalb merken wir es wird höchste Zeit
dass man da ein bisschen was macht weil
man kann im Prinzip relativ klar sagen
gucken wir uns diese Karte an das wird
immer mehr wenn wir jetzt 10 Jahre still
sitzen ist das überall also ist einfach
so ein bisschen in die Zukunft voraus
extrapolieren von diesem Überblick in
Deutschland wo man noch einzelne Punkte
malen kann wird es tatsächlich deutlich
gruseliger wenn man einfach mal nach
Europa guckt weil da sind es tatsächlich
so viele Projekte dass ich im Zeitrahmen
dieses Vortrags nicht schaffe alle
vorzustellen es ist so massiv viel dass
man einfach nur so ein bisschen drüber
scannen kann also so die Best Ofs sind
dann typischerweise wenn es tatsächlich
die gesichtserkennungssysteme sogar
schon benutzt wurden um Personen von
Demonstrationen zu identifizieren das ja
eigentlich allgemein das wofür wir die
große Angst haben bzw wo wir sagen dann
wird es im allerschädlichsten für
Demokratien wenn man nicht mehr anonym
an Demonstrationen teilnehmen kann
sondern wenn man Angst haben muss
identifiziert zu
werden und das ist z.B in Österreich
schon passiert
dann gibt es auch viele Länder in denen
einfach große Verträge geschlossen
wurden griechenland hat
gesichtserkennungssysteme für 4
Millionen gekauft die Niederlande hat
ein gesichtserkennungssystem aufgebaut
mit 1,3 Millionen Personen in der
Datenbank viele Firmen benutzen das da
ohne Rechtsgrundlage in Frankreich wurde
das schon in Schulen eingesetzt in
Belgien wurde man durch den Flughafen
getrackt in Slowenien wurde das
eingesetzt auch mal um demonstrierende
zu zu identifizieren in Schweden konnte
die Polizei nicht wiederstehen clearv zu
benutzen obwohl das vermutlich auch
rechtswidrig war in Belgrad wurden
gesichtserkennungssysteme aufgebaut die
Liste ist lang und ja genau also ihr
seht die die Karte fähbt sich blau und
blauer das Zeug kommt leider überall und
verbreitet sich schnell die aufmerksam
Verfolgerinnen der
europäischen Politik und vor allem was
Sicherheitsbehörden und
Sicherheitsgesetze angeht können sich
noch kurz überlegen wer fehlt hier wohl
also es geht um eine weiter Namen von
Leute die manchmal gerne ein bisschen
kreativ sind mit Gesetzesgrundlagen
natürlich Frontex Frontex hat auch
richtig Lust da das war in diesen
Frontex files in diesem Leak war das
drin da die haben vermutlich besitzen
sie bis jetzt da auch noch nicht
großartig Technik aber es ist
dokumentiert dass sie so richtig Lust
hatten da aufzurüsten und sehr sehr viel
Geld in die Hand zu nehmen und gerade
auch also zum einen so Ausrüstung Waffen
und solche Sachen und zum anderen aber
auch digitale Überwachungstechnologie
gerne auch dual use fürs Militär auch äh
hergestellt da geht es aber vor allem
auch um gesichtsmuster und
verhaltenserkennungssysteme da geht es
um
Lügendetektoren da geht es um
Fingerabdrücke die genommen werden
sollen von allen Menschen die nicht aus
der EU sind und ein und ausreisen also
die haben auch so richtig Lust da so
richtig groß einzusteigen in diesem
Spiel der biometrischen
Daten genau was gibt es noch ähm ja dann
machen wir noch mal einfach einen kurzen
Überblick in über dieses ganze s diese
ganze Situation
weil Gesichtserkennung in sich ist ein
bisschen die Steigerung von
Videoüberwachung wiüberwachung ist per
se schon ein Eingriff in die Rechte von
Menschen und auch wieüberwachung kann
sogenannte chillingeekts erzeugen
chillingeffekte sind das wie man das
nennt so die die negativ Effekte von
Überwachungsmechanismen das bedeutet die
das sind so selbsteinschränkungseffekte
also z.B wenn jemand das Gefühl hat oh
das wenn ich das jetzt mache dann könnte
die Information da darüber mir in
Zukunft zum Verhängnis werden dann mach
ich das mal besser nicht dann gehe ich
mal besser nicht zu dieser Demo das
passiert alles schon bei
Videoüberwachung wieüberwachung in sich
ist schon nicht so geil aber das wird
alles noch mal viel schlimmer mit
Gesichtserkennung einfach wegen
skalierungseffekten weil bei
Gesichtserkennung bei Videoüberwachung
z.B wenn man U-Bahnstation hat und da
hängt eine ganz normale Kamera dann kann
man sich da zwar beobachtet fühlen aber
es muss immer noch ein Mensch dir
zugucken und das ändert sich mit
gesichtserkennungsalgorit man weil mit
so normalen Kameras ist es einfach nicht
praktikabel flächendeckend eine ganze
Stadt sich anzugucken weil man einfach
nicht genug Leute hat also bei normaler
videüwachung gibt es ein oberes Limit
von wie viele Plätze und wie viele
Flächen kann ich mir angucken wenn man
das alles digitalisiert und das einen
Algorithmus machen lässt gibt es das
nicht mehr auf der anderen Seite sind
die Daten auch in einem viel besseren
Format kann man jetzt mal sagen in einem
viel
präziseren Format denn Videoüberwachung
da gibt es dann auch nur diese
Videostreams wenn ich mir jetzt überlege
alle viele Kameras von vielen Plätzen in
einer ganzen Stadt über ein Jahr zu
speichern das werden ganz viele Terabyte
an Videomaterial wenn ich tatsächlich
aber ein gesichtserkennungsalgorithmus
habe und mir nur die timestamps und die
GPS Daten speeicher von welche Person
ich wann wo gesehen habe das ist richtig
wenig das ist absolut plausibel in einem
ganzen Land in einer ganzen Stadt
einfach alles aufzuzeichnen alles zu
behalten weil man weiß ja nie könnte ja
noch mal praktisch werden deshalb über
dieses skalerungseffekte wird es viel
viel dramatischer und viel viel
gefährlicher dass das so richtig
massenhaft benutzt und ausgeweitet wird
weil es eben nicht mehr menschliche
Faktoren gibt die das
verhindern und wichtig ist dazu auch
noch zu sagen in Deutschland ist seit
dem letzten
Personalausweisgesetz gibt es einen
automatisierten Zugriff von mehr oder
weniger allen Polizeien und
Geheimdiensten auf die digital bereits
digitalisierten Fotos von allen Personen
das heißt theoretisch gibt es schon die
Sammlung von digitalen Fotos von allen
Menschen in Deutschland anhärend derer
man sie identifizieren könnte das heißt
wenn man sich überlegt was braucht man
für ein ein funktionierendes
gesichtserkennungssystem dann wäre das
die gute Kamera die hängen da schon da
wäre das ein Foto von der Person die man
identifizieren möchte das gibt's auch
schon das letzte was fehlt sind dann die
Computer die Analysesysteme die gibt's
noch nicht aber das ist halt da müssen
wir es gucken dass es die nicht
gibt genau und damit übergebe ich an
herantorkel weil wir wollen natürlich
dass es den nicht gibt und deshalb haben
wir da eine Kampagne genau jetzt geht es
um die Initiative die wir gestartet
haben reclaim your face diese Initiative
haben wir bereits im November letzten
Jahres gestartet und seit Februar 2021
ist das sogar eine richtige offizielle
europäische
bürgerininitiative und zwar ist das Ziel
dieser Initiative ein Verbot
biometrischer Mass Überwachung zu
erreichen warum wollen wir das zum einen
ist die Gelegenheit günstig denn es gab
bereits Anfang 2020 ein White Paper der
EU das geliebt wurde und auch da wurde
schon in erwegung gezogen dass man
biometrische massenüberwachung
vielleicht mal streng regulieren oder
verbieten
sollte in der finalen Fassung des White
Papers war dieser Satz leider nicht mehr
enthalten aber dennoch zeigt das dass es
auch auf EU-Ebene eine gewisse awarness
für dieses Thema gibt andererseits
zeigen die vielen Beispiele die wir
jetzt aufgeführt haben und noch viele
weitere mehr das Handeln dringend
notwendig ist denn diese Techniken
verbreiten sich immer weiter ich habe
gestern erst in der Zeitung gelesen dass
so ein Roboterhund durch Hamburg
gelaufen ist der eine extrem
hochauflösende Kamera auf dem Kopf hat
Hersteller ist ja die schöne Firma
Boston Dynamics und ja wenn wir nicht
wollen dass wir bald überall leicht
biometrisch erfasst werden können dann
müssen wir jetzt tätig werden ansonsten
ist es irgendwann einfach viel zu
spät ja im Rahmen dieser Initiative
müssen wir jetzt eine Million
Unterschriften sammeln und zwar in
mindestens 7ben EU-Ländern je nach Land
gibt es dann auch noch mal verschiedene
Schwellwerte damit eben nicht nur ein
EU-Land alleine diese Initiative
vorantreiben
kann sondern das muss ein
ähm europäisches Thema sein und dass das
ein europäisches Thema ist zeigt auch
die Tatsache dass diese Initiative
überhaupt angenommen wurde das wurde das
Thema wurde von der Europäischen
Kommission geprüft und diese Initiativen
werden nur zugelassen wenn die EU die
Regelungskompetenz hat die diese
Initiative hier wurde jetzt zugelassen
sie kann unter
reclaimyourface.eu auch unterschrieben
werden und
m das war quasi ein erster kleiner
Erfolg die richtige Arbeit die 1 Million
Unterschriften jetzt zu sammeln liegt
noch vor uns das machen wir natürlich
nicht alleine sondern das ist ein sehr
sehr breites Netzwerk gestartet haben
wir mit etwa einem Dutzend Organisation
die alle aus diesem eDRi Netzwerk
European Digital Rights Stamm so etwas
wie der Dachverband der Bürgerrechts und
datenschutzorganis
in Europa und inzwischen ist dieses
Netzwerk auf mehr als 55 Organisationen
angewachsen die alle im Rahmen ihrer
Möglichkeiten unterstützen und längst
haben wir auch diese datenschutzbubbble
verlassen z.B Amnesty International ist
auch dabei oder in Deutschland die
Gesellschaft für Informatik die zwar
auch Datenschutz auf dem Schirm hat aber
da ist Datenschutz nicht das Kernthema
alleine germanwatch. V ist dabei oder
auf europäischer Ebene der Dachverband
der europäischen
dienstleistungsgewerkschaften Uni Europa
die immerhin 7 Millionen Mitglieder
repräsentieren das heißt ja das ist ein
schönes buntes breites Netzwerk das auch
immer noch am W wachsen ist inzwischen
haben wir 46 000 Unterschriften
gesammelt mehr als die Hälfte 25.000
kommen aus Deutschland das klingt jetzt
nach viel allerdings sind wir noch von
Million ein gutes Stück entfernt
trotzdem denken wir dass wir das Ziel
auf jeden Fall noch erreichen können
zumal das Bündnis auch jetzt noch stark
am wachsen ist ja in der Vergangenheit
in den vergangenen Wochen haben wir uns
intensiv damit beschäftigt neue
Partnerinnen und Partner zu finden wir
sind auf erste politische Organisation
auch zugegangen da haben einzelne auch
schon gesagt dass sie diese Initiative
ebenfalls unterstützen wollen und wir
haben unter anderem viele hat den
stanfragen gestellt um mehr Transparenz
in Sachen Überwachung herzustellen und
viel zu häufig stellen wir fest dass
die Stellen die Auskunft geben müssten
keine Auskunft geben wollen häufig weil
die Dokumente zumindest offiziell noch
gar nicht da
sind und jetzt macht wi wig weiter und
erzählt was noch so passieren
wird ja genau also es ging ja gerade
erst frisch los und das ist natürlich
auch auch ein großes eine große
Herausforderung sich zu überlegen wie
hält man über ein ganzes Jahr da die
Spannung und die Energie in so einer
Kampagne deshalb wird es auf jeden Fall
z.B noch Themenwochen gehen geben also
wir werden uns auf auf bestimmte
inhaltliche Themen noch mal fokussieren
da genauer zu arbeiten und auch mit mit
Akteuren die da in diesen Themen
unterwegs sind z.B eine große Sache ist
Fußballstadion Stadien insgesamt die
Fanszene weil die trifft das vermutlich
ja auch dann sehr stark falls das das
geben würde dann ist ein anderes großes
Thema was wir sind geflüchtete und
europäische Außengrenzen be Frontex
haben wir schon geredet dass die richtig
Lust haben und von Frontex wissen wir
auch dass die manchmal Lust haben auf
Dinge die dann gar nicht so gut sind für
die Menschen die es dann
betrifft und dann haben wir auch noch
den Punkt Arbeiterinnen also es gibt
auch dieses ganze dieses ganze Feld
diesen ganzen Kontext Überwachung am
Arbeitsplatz wir haben ja auch ich glaub
von den Amazon Trucks gehört mit wo die
Kameras immer liefen und sowas also ich
glaube da gibt's auch viel viel noch zu
in ein Inhalt zu er arbeiten da wollen
wir im Themenwochen zu machen wo wir uns
einem Thema genauer widmen und das
Bearbeiten insgesamt geht's aber
natürlich jetzt einfach noch drum ein
sehr sehr schönes ein sehr sehr buntes
und breites Bündnis zu bauen und da
möglichst vielen Gesellschaften abseits
der datenschutzszene zu zeigen e das ein
wichtiges Thema da müsst ihr mitmachen
das heißt falls ihr irgendjemand zuhört
und denkt Mensch hier das wä do mal was
für uns meldet euch gerne bei uns genau
anderenfalls wenn ihr denkt cool wie
kann ich eigentlich mitmachen kommt
jetzt noch ein Kiner wie können wir euch
einbinden Block und zwar zum Einbringen
erstmal ist es total super mm insgesamt
einfach Transparenz hierzustellen also
es gibt viele Dinge die passieren über
die wir noch nicht Bescheid wissen das
heißt an Euch alle wenn ihr Lust habt
fragt Unternehmen nach euren Daten fragt
Unternehmen die vermutlich sowas wie
Gesichtserkennung oder Biometrie
angewendet haben nach euren Daten fragt
ihr auch he was habt ihr damit
eigentlich gemacht und auf welcher
Rechtsgrundlage und wie verhandelt ihr
das sind das für euch wie biometrische
Daten biometrische Daten sind nämlich
besonders schützenswert nach der
dsgvu fragt auch bei öffentlichen
Stellen nach fragt nach Verträgen nach
Dokumentation benutzt fragt den Start
stellt möglichst kreative Anfragen
möglichst nervige anfragen wir freuen
uns da immer sehr über alle Dokumente
die ihr da irgendwie rausgepolt kriegt
weil ich glaube auch da gibt's noch sehr
sehr viele spannende Dinge zu lernen und
das das einzige was man tun muss ist so
ein bisschen Nachrichten lesen und
schlaue IFG Anfragen
stellen was könnt ihr noch tun wwussein
schaffen ich glaube es wird immer noch
viel zu wenig darüber geredet wir müssen
vor allem so ein bisschen also W jetzt
hier eine Konferenz in der es irgendwie
allen klar ist aber vor allem das Thema
in andere Räumen andere Organisationen
tragen ist glaube ich immer noch total
wichtig wenn ihr die Möglichkeit habt
sprecht eure Abgeordneten an das ist
auch immer schön um den zu zeigen hey
wir gucken dazu und das läuft gerade
nicht in die richtige Richtung und als
letzten Punkt können wir sagen neimmt
dann unsere self-organized Session teil
denn wir haben uns überlegt ähm um
einfach Leuten zu helfen die das sich
das anhören und denken da möchte ich
mitmachen machen wir eine haben wir eine
selforganized Session eingetragen
organisiert auch hier beim r2r am Montag
um 15:30 Uhr und da seid ihr alle
herzlich eingeladen falls ihr denkt ihr
habt Lust bei der Kampagne mitzumachen
ihr kennt eine Organisation die da
unbedingt dabei sein sollte oder wollt
euch sonst irgendwie einbringen und da
können wir dann genauer drüber reden
und damit sind wir ziemlich am Ende
würde ich sagen hier sind Kontaktdaten
von uns falls Ihr uns kontaktieren
möchtet und damit bedanke ich mich
eigentlich einfach erstmal bei euch für
eure Aufmerksamkeit und danke dass wir
den Vortrag hier machen
durften ja dann sage ich doch erstmal
Applaus Applaus Applaus Applaus Applaus
also Wick und
kantorkel ja ich war gebannt habe an den
Lippen geklebt auch wenn das nürlich
immer so ein trauriges
Thema ist und was halt vor allem gut ist
ich sehe gerade hier live im PET da
kommen mal fragen und Feedback schon
rein das heißt ihr habt da wohl auch ein
Nerv getroffen und ja viele viele viele
interessierte Menschen darum ich scroll
hier einfach mal rein und dann fange ich
oben bei den Fragen an ohne dass ich sie
Werte so aus meiner Sicht sind bislang
alle Schritte und Aktionen gegen diesen
Wahnsinn zu weich gespült was kann
nachhaltig getan
werden Kameras kaputt machen
oder ja also vielleicht auf jeden Fall
würde es vielleicht helfen auch diese
Überwachung sichtbarer zu machen so den
Protest auf die Straße zu bringen ist
etwas was wir im Hinterkopf haben aus
Gründen ist das momentan nicht ganz oben
auf der Liste und ich glaube auch ganz
schlecht ist das Mittel der Initiative
nicht denn wir können erzwingen dass die
Kommission sich mit uns treffen muss
dann wird es eine öffentliche Anhörung
im EU-Parlament geben und danach muss
die Kommission schriftlich Stellung
beziehen und sagen warum Sie unsere
Ziele umsetzt oder warum nicht das heißt
mit einem gewissen öffentlichen Druck
kann man hier tatsächlich was erreichen
jo dann gibt es bereits Aktionen gegen
clearview lohnt es sich gemeinsam
weitere solcher löschanfragen zu stellen
auf jeden Fall also ich habe das jetzt
einmal gemacht das hat über ein Jahr
gedauert jetzt ist halbwegs klar wie das
läuft
wenn du und ihr antworten erhaltet würde
ich mich über eine Nachricht freuen und
dann können wir schauen was wir daraus
machen so kann ich meine Fotos bei
clearway II auch löschen lassen gibt es
da
Vorlagen Firma sitzt nicht mehr in EU
also vermutlich keine Handhabe mehr
genau genau das ist schwierig wir haben
in meinem Fall bisher auch nur erreicht
dass das biometrische Datum zu meinem
Gesicht gelöscht wurde da wurde nichts
über irgendwelche Bilder gesagt aber wir
sind auch noch nicht
fertig nur zu meinem Verständnis war es
nicht mit der dsgvo so dass sozusagen
sobald du deine Dienstleistung innerhalb
des Europas anbietest schon drunter
fällst nicht wo dein Sitz ist das ist
korrekt offiziell heute zumindest gibt
es auch keine europäischen Kunden die
schwedische Polizei muss 250 000 ich
glaube Euro zahlen weil sie dochunde
waren genau okay so
Mannheim was gilt als denn als
auffälliges Verhalten damit die Polizei
vorbeischaut Slash wegschaut nein also
das glaube ich auch so eine spannende
Sache das ist immer gar nicht so gut
dokumentiert also das W ein weitere
Gefahr von diesen automatischen
Erkennungssystem das entweder wird nicht
nach außen transparent kommuniziert wann
die Systeme anschlagen oder die Leute
wissen selber nicht weil es irgendwelche
Magic Fu ai Geschichten sind ich glaube
da war die Rede
von so körperlicher Auseinandersetzung
also irgendjemand rennt weg nach einem
Diebstahl oder schlägt eine Person und
das kann man natürlich auch das kann
auch immer falsch aussehen das kann auch
immer ne du hast jemand umarmt und dann
sieht es aus nach einer Rangelei glaub
das Problem ist weiß man nicht genau
weiß man nicht präzise Open Source wä
hübsch aber noch besser ist natürlich
wenn dieses Theme da gar nicht
sind so dann haben wir ähm wie
dieüberwachung im Grenzgebiet ist das
üblich dass Grundrechte 30 km vor der
Grenze aufgeweicht werden wie kommen
gerade die 30 km
zustande wie die 30 km zustande kommen
weiß ich nicht und im europäischen Raum
war es bisher nicht üblich die
Grundrechte an den Grenzen so sehr
aufzuweichen und an den Grenzen ist gut
das betrifft ja
halbsachsen ja ich sehe auch gerade hier
hat jemand ins P auch noch irgendwie auf
Wikipedia
zollgrenzbezirk verwiesen es ist ja so
dass glaube ich in den Zollbereich den
Grenzbereichen ich komme von der
niederländischen Grenze da gibt es immer
so Art Möglichkeiten wo man so irgendwie
die Polizei ein bisschen mehr darf ich
weiß nicht ob das damit sozusagen
einhergeht diese 30 km so wie seht ihr
das Thema in sassen in einem autonomen
Carsharing Fahrzeug wäre es falsch dort
z.B sexuelle Übergriffe automatisiert zu
erkennen ja wäre
es
danke ja insgesamt ist das ja auch
spannend mit den ganzen Kameras die
heutzutage von den Autos sozusagen nach
draußen gucken so tauschen die EU-Länder
die Daten jetzt auch schon aus ist dazu
etwas Konkretes bekannt bzw um Personen
zu
verfolgen
ab es werden sicherlich fnungsbilder
ausgetauscht inwi weit da der Fokus auf
biometrischer Verarbeitung liegt kann
ich nicht sagen
mm so wie kann man am besten seine
Mitmenschen überzeugen die Petition zu
unterschreiben ja vielleicht einfach
also ich würde sagen auf die
Dringlichkeit des Themas also ich glaube
erstens viel Menschen ist erstmal
überhaupt nicht klar was da passiert und
dass das passiert und dann ist vielen
Menschen nicht klar dass das ein Problem
ist und dass wir da jetzt was machen
müssen und meine Erfahrung ist auch das
wichtigste ist eigentlich eine Art
Dringlichkeit zu erzählen also Menschen
zu erzählen warum muss das genau jetzt
passieren weil es gibt auch immer 20
andere Sachen die eigentlich auch
wichtig sind das heißt ich glaube so ein
bisschen zu erzählen pass mal auf das
ist gerade zwei zwei Sachen pro Jahr die
ganze EU ganz Deutschland quillt über
alle scharren mit den Hufen überall
biometrische Gesicht
ichtserkennungssysteme aufzubauen und zu
installieren und wenn wir nicht jetzt
jetzt jetzt etwas tun dann sind für
mindestens 10 Jahre werden diese Dinger
da hängen denn sobald also gucken wir in
die Geschichte der grundrechtsangriffe
in Deutschland sobald sowas passiert
auch wenn es nicht auf dem Boden der
Verfassung steht dann dauert es meistens
erstmal 10 Jahre bevor eine
entsprechende Klage vom
Bundesverfassungsgericht durch ist und
in diesen 10 Jahren hängt das System
dann da das heißt um zu verhindern dass
wir zumindest mal auf 10 Jahre überall
in Deutschland und Europa diese ganzen
Erkennungssysteme hängen haben und uns
dann da tatsächlich irgendwie beobachtet
fühlen müssen in der Öffentlichkeit ist
die die logische und beste Möglichkeit
jetzt zu sagen nein das wollen wir nicht
und das zu unterschreiben und an den
Fragestellenden gegebenenfalls einfach
den Link von Media CCC mit diesem
Vortrag vorworden dann kann man es
vielleicht auch in sich gut aufnehmen so
nächstens gibt es eine Liste mit Firmen
die man anfragen könnte macht ihr ein
how to in der selforganized
und gibt es da seine Dokumentation
von eine Liste von Firmen haben wir noch
nicht wir haben angefangen Firmen
zusammenzutragen aber ich glaube wir
sind weit davon weg von Vollständigkeit
zu sprechen und in der selforganized
Session werden wir auch darauf eingehen
wie man ganz konkret auf solche Firmen
zugeht wie man solche Firmen findet und
wie man sie dann
anschreibt so die nächste Frage ist
gleichzeitig auch glaub ich ein Impuls
den ich ganz spannend finde was macht
eigentlich Zoom als biometrischer
Massentest mit all den willfähriig
geschenkten Daten Zoom ist doch die
ideale Goldgrube für Gesichter Stimmen
Augen Hautfarbe nebst Verhaltensmuster
verquickt mit einem immensen
innerhaltlichen fundos worüber reden die
Menschen so die Zoom AGB geben es
jedenfalls her dass die gesammelten Bits
auch weiter verarbeitet werden dürfen
ähm ich möchte Zoom nichts unterstellen
natürlich nicht allerdings halten sie
sich aus Gründen sehr bedeckt was z.B
ihren Sitz in der EU angeht das heißt
die Datenschutzbehörden die
Aufsichtsbehörden in der EU sind sich
untereinander immer noch nicht einig wer
denn eigentlich zuständig ist weil Zoom
einfach nicht erzählt was Sache ist und
den Rest kann man sich vielleicht
denken Teile der Antwort würden sie
verunsichern so gibt es wieder
humorvolle Aktionen bezüglich der
Kameras
ich würde mal sagen ist auf jeden Fall
geplant müssen wir wir haben ja immer
noch so eine eine Pandemie von ihr
vielleicht gehört habt so ein bisschen
gucken wie sehr die gerade nervt oder
nicht aber daran vorbei haben wir auf
jeden Fall vor auch noch Dinge auf der
Straße zu tun und auch in verschiedenen
Städten also vor allem an alle Menschen
die in nicht in Berlin und nicht in
einer großen Stadt sitzen und Denken
Mensch auch in dieser Stadt wäre das
cool wenn wir da geilen scheiß machen
meldet euch bei uns weil wir jetzt auch
schon heißlaufen mit plen
um um dezentrale Fotoaktionen zu machen
und coolen scheiß auf die Straße zu
bringen und genau macht da gerne mit
hier noch ein konkreter Fall es gibt in
der Kemnitzer Innenstadt zu viele
hochus hochauflösende Kameras mit acht
objektiven gegen den Widerstand des
Stadtrats wurden diese installiert wie
kann ich sie wegklagen wer hilft mir
dabei wir stellen gerne den Kontakt zu
Kameras stoppen her die haben da
Erfahrung ja ansonsten haben wir ist ja
fast eine Punktlandung wir haben noch
Notizen und Anmerkungen ich denke mal
das ist so so hier reclaim your face die
Links und so weiter und so forort und es
war vorhin auch irgendwie schon
irgendwie Feedback da wo drin stand sehr
schön gemacht und herzlichen Dank darum
im zweifelswe sage ich jetzt einfach das
gleiche auch noch mal herzlichen Dank
Wick und kantorkel und jetzt nicht nur
für den Vortrag sondern für euer
gesamtes Engagement was da reinbringt ne
weil was ihr gerade gesagt habt
irgendwie wir müssen eigentlich andere
Leute auch infizieren dass sie diese
Sache mitunterschreiben also wir
brauchen jetzt eine Mutation wir
brauchen eigentlich eine divog
R2 Mutation von irgendeinem Virus
welcher dann wenn ihr mit Leuten redet
aus eurer Mund kommen die Viren in den
Kopf deren die euch zuhören und die in
zeinen das dann auch und weißt du das
spreadet dann so bis um die ganze Welt
darum erstm Herz ach ja viral
an der Stelle herzlichen Dank für euren
Vortrag reclaim your face biometrische
massenüberwachtung und wie wir uns
dagegen wehren können ja dann sage ich
winke winke und mach danach noch ein
paar
[Musik]
announcements