Springe zum Inhalt

Die EU-Kommission will Ende April 2021 neue Gesetzesvorschläge zu Künstlicher Intelligenz vorstellen. Bisher hat es ihre Anfang 2020 in einem Leak bekannt gewordene Überlegung, ein Moratorium über Gesichtserkennung zu verhängen, nicht in die endgültige Fassung des KI-White Papers geschafft.

Daher möchte die Zivilgesellschaft den Druck auf die EU-Kommission erhöhen. In einer europaweiten Bürger_inneninitiative werden Stimmen gesammelt, um ein Gesetz zu fordern, das biometrische Massenüberwachungspraktiken im öffentlichen Raum verbietet. Die Online-Petition #Reclaim Your Face startet am Mittwoch, den 17. Februar, um 8 Uhr. Abgestimmt werden kann dann hier: https://europa.eu/citizens-initiative/initiatives/details/2021/000001_de

Jetzt Messenger wechseln?

Bis spätestens 8. Februar werden WhatsApp-Nutzer*innen aufgefordert, einer neuen Nutzungsbedingung zustimmen, durch welche die App Nutzerdaten mit dem Mutterkonzern facebook teilen darf. Erfolgt die Zustimmung nicht, bleibt die App gesperrt. 

Die Verknüpfung von WhatsApp-Daten mit facebook ist jedoch aus verschiedenen datenschutzrechlichen Gründen kritisch zu betrachten.

Alternativen für sichere Messenger-Dienste sind zum Beispiel Signal oder Threema, sodass ein Wechsel zu einem dieser Anbieter gerade jetzt Sinn macht. Dieser Erfahrungsbericht erklärt, wie dies trotz der weiten Verbreitung von WhatsApp gelingen kann. Warum ein Wechsel zu telegram nicht zu empfehlen ist, macht ein Blick auf die Sicherheitsmaßnahmen des Messengers deutlich.

Welche großen netzpolitischen Entwicklungen, Debatten und Projekte können wir in unserem Alltag in scheinbar kleinen (technischen) Routinen und Objekten wiederfinden - und dadurch greifbar machen? Unter dem Titel "Das Große hinter dem Kleinen - Gesichts-erkennung im Alltag. Komfort, öffentlicher Raum und (Gegen-)Strategien aus Kunst, Politik & Recht" bringen wir mit dem Start bei den Bundesweiten Aktionstagen für Netzpolitik & Demokratie einen Podcast dazu heraus. Seit 11.11.2020 könnt ihr die Folgen von "Power digital: Selbstbestimmt im Gespräch - der S.D-Podcast" hier auf unserer Homepage anhören. Bis 2.12.2020 gibt es jeden Mittwoch eine neue Folge.

AB JETZT hier alle vier Folgen zum Anhören!

Power digital: Selbstbestimmt im Gespräch - der S.D-Podcast (Folge 1)
Power digital: Selbstbestimmt im Gespräch - der S.D-Podcast (Folge 2)
Power digital: Selbstbestimmt im Gespräch - der S.D-Podcast (Folge 3)
Power digital: Selbstbestimmt im Gespräch - der S.D-Podcast (Folge 4)

Interviews: Simon Vollmer, Valerie Brachmann, Jonas Vollmer // Moderation: Jonas Vollmer, Valerie Brachmann // Schnitt & Technik: Mareike Glöckner, Olav Seyfarth // S.D dankt allen Passant_innen in Mainz, Hamburg & Berlin!

Sites: "CV Dazzle", Adam Harvey, Ariana Dongus, Digitale Freiheit

Veranstaltungen & Aktionen zum Mitmachen: Virtuelle Podiumsdiskussion am 1.12.2020 "Gesichtserkennung in Europa" (HSRM, DAM) (Anmeldung online) // Kampagne #ReclaimyourFace und ein Überblicksartikel dazu auf heise.de

Film & Audio: Face it! (Gerd Conradt, 2019), Podcast Cosmo TECH (WDR, 2019)

Du willst deine Gedanken zu Gesichtserkennung in unsere Interviews mit Expert_innen einbringen? Schreib uns gerne: kontakt@selbstbestimmt-digital.de // Twitter: @Selbstb_Digital

Darum geht es: Meine Identität? Mein Gesicht! Biometrische Daten werden bei der (automatisierten) Gesichtserkennung systematisch genutzt, um die Identität einer Person zu bestimmen - für rechtliche, wirtschaftliche oder politische Zwecke. Ob im Alltag bei der Smartphone-Bedienung per Face ID, bei Grenzkontrollen und Reisen per Flugzeug, oder bei Überlegungen zur Videoüberwachung im öffentlichen Raum: Wo enden praktischer Komfort und Vorteile, wo beginnt demokratie- und freiheitsfeindliche Überwachung digital?

Zu diesem Spannungsfeld befragten wir vorab Bürger_innen in den Fußgängerzonen von Freiburg, Mainz, Hamburg und Berlin. Deren Antworten diskutieren wir im Audio-Interview mit Expert_innen. Unser Audio-Format ist ab dem 11. November online verfügbar. Dabei erkunden wir konkrete Möglichkeiten, wie wir als Einzelne im Alltag (in Routinen, mit Kunst und Maskerade) und als Gesellschaft (mit rechtlichen und politischen Strategien) mit Gesichtserkennung umgehen können.

Unsere Partner für die Bundesweiten Aktionstage Netzpolitik & Demokratie:

Logos der Partner: Landeszentralen für politische Bildung Baden-Württemberg und Berlin und ZKM

https://www.lpb-bw.de/ https://www.berlin.de/politische-bildung https://zkm.de/de

Klar machen auch Andere Veranstaltungen zum Thema Gesichtserkennung:

  • Mit Vorträgen und anschließender Diskussion wirft die Online-Veranstaltung „Gesichtserkennung in Europa“ des Projekts IMPACT RheinMain am 01.12.2020 von 15 bis 18 Uhr einen vielfältigen Blick auf das Thema Gesichtserkennung sowohl aus anwendungsorientierter wie aus gesellschaftshistorischer Perspektive…
  • Aus dem EDRi-Newsletter vom 12.11.2020: "Today, civil society across Europe launches the “Reclaim Your Face” campaign, demanding that local and national authorities listen to their communities about the serious risks of using facial recognition and other biometric technologies in public spaces…

Gern nehmen wir auch Eure Hinweise mit hier auf … schreibt uns einfach!

Irgendwas läuft schief in unserer Demokratie: Nach unserer Einschätzung wurden für kein anderes Thema so viele Gesetze erlassen, die postwendend von Gerichten wieder kassiert wurden. Die Rede ist von der anlassunabhängigen Speicherung digitaler Spuren im Internet, besser bekannt als Vorratsdatenspeicherung. Es muss ein wichtiges Thema sein, wenn man dennoch in allen europäischen Staaten und in der EU wieder und wieder Anläufe dazu nimmt. So auch dieser Tage unter der deutschen Ratspräsidentschaft. Dazu später mehr.

Heute hat der Europäische Gerichtshof zum bereits dritten mal geurteilt, dass die Vorratsdatenspeicherung nicht mit EU-Recht vereinbar ist. Zuvor waren bereits in 2014 und 2016 ähnliche Urteile gefallen. Im aktuellen Urteil hat der EuGH die vorherigen Urteile bestätigt und betont, dass eine generelle anlassunabhängige Speicherung nicht zulässig ist. Ausnahmen hiervon, müssen immer auf einen konkreten Anlass bezogen und die Datenspeicherung auf das notwendigste Maß beschränkt sein. Nun steht zu befürchten, dass die vom EuGH ausgeführten Ausnahmen die Debatte über eine Wiedereinführung der Vorratsdatenspeicherung erneut befeuern.

Aber treten wir einen Schritt zurück. Worum geht es bei der Vorratsdatenspeicherung? Es geht um Verbrechensbekämpfung: Sowohl um die Aufklärung von Verbrechen, die bereits stattgefunden haben, als auch um das Vereiteln geplanter Straftaten. Beides dient dem Ziel, die Bevölkerung zu schützen und ist somit zweifelsfrei Aufgabe staatlicher Gewalt. Dieser Bevölkerungsschutz trifft im Digitalen auf "neue" Herausforderungen.

So ist es heute (auch Verbrechern) möglich zu kommunizieren ohne dass ein staatliches Organ das Gespräch abhören kann, etwa durch Ende-zu-Ende-Verschlüsselung, wie sie in Messengern (WhatsApp, Threema, …) eingebaut ist. Das war früher anders: Ein "normales" Telefongespräch (Festnetz und Mobilfunk) konnte abgehört werden. Das wird auch heute (rechtskonform) getan. Mit richterlichem Beschluss. Im Einzelfall. Nach einem Anfangsverdacht.

Das Problem, das Strafverfolger damit haben, ist, dass sie nach einer Straftat keine Beweise und vor einer geplanten Straftag keine Indizien für eine geplante Straftag haben – und damit zuweilen ihre Aufgabe nicht wahrnehmen können. Die Folgerung: Sie brauchen früher, schneller und mehr Daten. Gesetze zur anlasslosen Speicherung von Daten sollen deren Umfang und mögliche Verwendungszwecke festlegen.

Bisherige Gesetze zur Vorratsdatenspeicherung wurden von Gerichten z.T. wegen "handwerklicher Unzulänglichkeiten" (schlimm genug!), aber eben auch wegen grundsätzlicher Bedenken für ungültig erklärt. Die wichtigsten Gründe aus unserer Sicht:

  • Die anlasslose Datenerfassung beschränkt das Grundrecht auf informationelle Selbstbestimmung unbescholtener Bürger. Das ist in Ordnung (!), muss aber gegen andere Grundrechte abgewogen werden!
  • Meist kann der Personenkreis nicht eingegrenzt werden, da ganze digitale Ökosysteme überwacht werden sollen. Dies entspricht einem (zu?) großen Beifang "im Schleppnetz".
  • Es ist z.T. nicht vorhersagbar, welchen Informationsgehalt die Daten haben die bei einer solchen Speicherung erfasst würden. Menschen tun unterschiedliche Dinge, auch digital. Daher kann man aus ein und derselben Datenart völlig verschiedene Schlüsse ziehen. Im Kontext betrachtet, müssten diese Situationen aber ethisch und rechtlich unterschiedlich bewertet werden.
  • Die Menge der "auf Vorrat" erhobenen Daten ist häufig so groß, dass man maschinelles Lernen (KI , keine Nachvollziehbarkeit!) und manuelle Nachbearbeitung (Sichtung irrelevanter privater Informationen!) benötigt.
  • Die Speicherung soll in der Regel nicht vom Staat selbst, sondern von marktwirtschaftlichen Unternehmen durchgeführt werden. Das kostet Geld, was diese Unternehmen auf den Produktpreis umlegen. Aber auch der Schutz dieser Daten kostet Geld, und hier weniger Geld auszugeben erhöht deren Marge.
  • Erhobene Daten bieten verlockende weitere Nutzungsmöglichkeiten. Erfahrungsgemäß erfolgt mit der Zeit eine Zweckerweiterung. So geschieht dies aktuell bei den Corona-Kontaktlisten der Gastronomie, die eigentlich nur fürs Gesundheitsamt sind, aber (nicht nur in Bayern!) zur Aufklärung von Verbrechen herangezogen werden.
  • Die Sicherheit von Daten ist nicht absolut bzw. hat eine Halbwertszeit. Dies belegen die viele Datendiebstähle und Datenpannen der letzten beiden Jahre eindrucksvoll: Von Unternehmen über städtische Behörden bis zu Gerichten. Z.T. betrafen solche Pannen die gesamte Bevölkerung eines Landes.

Nun ist es wieder einmal soweit: Nachdem es in Deutschland gerade wieder auf der Tagesordnung war ist damit zu rechnen, dass sich nun auch die Innenminister der EU-Mitgliedsstaaten erneut auf einen gemeinsamen Vorstoß verständigen werden. Noch einmal sei gesagt: Ja, Strafverfolgung muss möglich sein. Unserer Ansicht nach muss aber zuerst eine gesellschaftliche Auseinandersetzung erfolgen. Denn wenn einmal Gesetze und Systeme eingerichtet sind, bekommt man sie erfahrungsgemäß nicht mehr los. Daher unterstützt Selbstbestimmt.Digital den NGO-Brief von Digitalcourage an die Verantwortlichen in der EU – wie auch viele weitere Bürgerrechtsorganisationen.

Denn unser Verhalten im Internet zu erfassen ermöglicht das Erstellen aussagekräftiger Profile (was ja das Ziel ist, wenn man Straftaten verhindern will). Aber machen wir bitte einen Vergleich mit der realen Welt: Wir könnten bestimmt auch verhindern, dass jemand verprügelt wird, wenn an jeder Straßenecke (oder an jeder Hausecke, oder in jedem Zimmer) ein Polizist stünde. Aber würden wir uns DAS gefallen lassen, "nur" weil man damit eine Straftat verhindern kann? Und würden wir es akzeptieren, wenn alle Beobachtungen der Polizisten (unabhängig von Straftaten!) an zentraler Stelle gesammelt würden?

Wir dürfen auch nicht vergessen (und gerade wir Deutschen sollten wissen, auch wenn nun 30 Jahre Gras darüber gewachsen ist), dass "der Staat" oder "die Polizei" auch nur aus Menschen besteht. Menschen, die Fehler machen oder im Einzelfall bzgl. ihrer Integrität, Moral und in ihrem Verhalten nicht dem Idealbild entsprechen, das wir uns leichtfertig ausmalen könnten. Und Daten sind Macht. Wir sollten uns genau überlegen, wem wir wie viel Macht in die Hand geben und wo wir lieber die verbleibende Unsicherheit als Bürger und als Gesellschaft tragen oder aushalten wollen.

Randbemerkungen zum Kontext: In den letzten Jahren wurden etliche (Polizei-)Gesetze erlassen, die aufwändig erstrittene Freiheitsrechte drastisch beschneiden. Derzeit gibt es viele technische Möglichkeiten, die vor dem Hintergrund der Überwachung zumindest problematisch sind. Wir haben vor, hier demnächst im Rahmen der bundesweiten Aktionstage "Netzpolitik und Demokratie" zum Thema Gesichtserkennung aktiv zu werden.

Ergänzungen (Presseartikel) – gern kannst du uns weitere Links schicken:

Versauert euch der kühle Sommer aktuell bisweilen die Laune? Seid ihr ohne Inspiration mangels Sonne? Dann gönnt euch einen Schub Inspiration aus dem Digitaltag 2020, der am 19. Juni bundesweit stattfand! Ob der Selbsttest zur Frage "Bin ich digital kompetent?", Chatbots und KI in der Weiterbildung, ein Spiel rund um Fake News oder IT-Sicherheits-Basiswissen in Video-Snacks - wir haben euch ein paar Link-Perlen zusammengesammelt. Klickt auf den Link zum Cryptpad und los geht die Entdeckungsreise - gerne dürft ihr natürlich eure Highlights aus dem Digitaltag 2020 im Pad ergänzen!

Der nächste Digitaltag ist am 18. Juni 2021.

Weitere Leselust? Wir haben Anfang des Jahres zusammen mit anderen NGOs, Journalist_innen und Institutionen in einem Workshop der Stiftung Neue Verantwortung zu Nachrichten- und Informationskompetenz mitgearbeitet. Hier geht's zum daraus entstandenen und nun veröffentlichten SNV-Paper: "Verstehen, was ist. Auf dem Weg in die nachrichtenkompetente Gesellschaft.".

Und falls ihr Lust auf's Anpacken alleine oder mit uns habt: Im November sind wieder die bundesweiten Aktionstage Netzpolitik & Demokratie. Wir freuen uns auf eure Mails und Tweets (@Selbstb_Digital) mit euren Ideen und Impulsen für Veranstaltungen und Aktionen!

Nun ist sie also da, seit dem 16. Juni 2020 - die Corona-Warn-App. Wir haben mit Freude die intensiven Debatten um die Datenspeicherung, Zugriffsfragen und Datenschutz mitverfolgt und mitgestaltet (siehe unser Radio-Interview). Die App scheint als Teil der Maßnahmen (Tests, Abstand, Hygiene etc.) zur Pandemie-Bekämpfung durchaus vielversprechend. Es gibt sehr gute Gründe, die App zu installieren. Und solche, die eher dagegensprechen. Dank Anne Schwarz (@akaer) und dem Ticker des D64 sowie einer exzellenten Pressemitteilung des FifF können wir euch einen ersten Überblick geben: für eure ganz selbstbestimmt digitale Entscheidung, bei der ein Blick auf die aktuell öffentlich kaum diskutierte alltägliche Datensammlungspraxis von Digitalkonzernen auch erhellend sein kann.

Anne Schwarz via D64-Ticker:

"Ist die App sicher? Kommt darauf an, wen man fragt. Prominente Vertreter der "Njet!"-Meinung kommen von Digitalcourage, TÜVit (wobei der scheinbar zurückrudert) und der Uni-Darmstadt; auf der anderen Seite stehen der Chaos Computer Club, Netzpolitik und Einzelpersonen wie z.B. Laura Sophie Dornheim, die an der App zwar auch viele Baustellen finden, diese aber für weniger riskant halten. Der CCC empfiehlt die Installation der App nicht - das machen die aus guten Gründen nie. Kein vehementer Protest bei so einem prominenten Datenschutz-Thema ist beim CCC aber fast schon ne Vertrauenserklärung (frei nach meinem schwäbsichen Schwiegerpapa „Net gschempft, isch g'lobt g'nuag.“)."

"Bringt sie überhaupt was zur Bekämpfung von Corona? Grundsätzlich kann sie was bringen, als Teil einer größeren Gesamtstrategie - aber wie effektiv sie sein wird, hängt von zu vielen Unbekannten ab (Infektionsraten, "Superspreader"-Events, wieviele Leute installieren das Teil etc.). Eine wirklich verlässliche Aussage auf wissenschaftlicher Basis traut sich gerade keiner zu treffen. Erfahrungsberichte anderer Länder, die ähnliche Technologien bereits einsetzen (drei Beispiele verlinkt hier Patrick Beuth bei SPON), sind zwar informativ, aber nicht direkt übertragbar. Es ist ein Experiment. Müssen wir also erstmal durchführen, um zu wissen was dabei rauskommt."

"Was gefällt netzpolitischen Expert:innen daran? Erstmal finden so ziemlich alle die Verwendung des dezentralen DP3T-Ansatzes gut, den er macht viele Schweinereien im Datenschutz schwerer oder unmöglich. Darüber hinaus loben der Chaos Computer Club und andere, dass der Quelllcode frei zugänglich ist (nämlich hier), und dass sich SAP und Telekom für Verbesserungsvorschläge wirklich interessieren und diese auch recht schnell und transparent lösen."

"Was gefällt netzpolitischen Expert:innen NICHT daran? Hier gibt es eine technische und eine politisch-gesellschaftliche Sicht. Technisch wird insbesondere das Thema Bluetooth (Angriffsfläche für z.B. Wurmloch-Attacken, Bluetooth Low Energy nicht auf allen Smartphones verfügbar) und die Google/Apple-Einbindung kritisch gesehen (z.B. von digitalcourage). Politisch-gesellschaftlich bemängelt u.a. Anke Domscheit-Berg in der ARD, das drei elementare Dinge bisher fehlen: einer harte Befristung (also terminiert), eine unbedingte Zweckbindung (App darf niemals für etwas anderes verwendet werden als den ursprünglichen Zweck) und eine Festschreibung der Freiwilligkeit. Letztere könnte man z.B. mit einem Begleitgesetz realisieren, wie es Eren Basar vom Deutschen Anwaltsverein oder Markus Beckedahl in netzpolitik vorschlägt."

"Erklärvideos und FAQs:
Ein schönes, kurzes Erklärvideo zum warum-wieso-und-wie hat die Süddeutsche auf ihrer Seite, auch der SPON hat eins zu bieten.
Einen sehr ausführlichen FAQ bietet netzpolitik, etwas weniger technisch ist die Tagesschau unterwegs."

(Danke, liebe Anne Schwarz, für diesen tollen Überblick!)

Außerdem gibt es noch Fragen hinsichtlich der kompatiblen Smartphones (eine schöne Übersicht hierzu bietet t3n), Schwachstellen in der Pseudonymität durch den Medienbruch (siehe dazu golem und bfdi.bund) sowie noch zu nehmenden Hürden, dass die App problemlos grenzüberschreitend in ganz Europa laufen kann.

Und hier gehts zur Pressemitteilung des FifF: https://www.fiff.de/presse/dsfa-corona-digiges

Heute drehte es im Digital-Café um Videokonferenzen und Online-Tools. Für die Arbeit, Vereine, Schule und zum Tanzen. Fragen zur Technik wurden aber kaum diskutiert, sondern um die Frage des Umgangs damit und die Beobachtungen der Teilnehmer zu den sozialen Auswirkungen. Aber auch um Vertrauen (in die Telekom) und Misstrauen (gegenüber Zoom & Co.), um Auswahlkriterien und die Kombination von Online-Tools. Um Vorteile dadurch und was nach dem Lockdown davon vermutlich erhalten bleibt.

Eine Erkenntnis war, dass manche Menschen Unsicherheit/Selbstzweifel spüren, wenn sie sich selbst im Video sehen. Vergleichbar mit dem Hören einer Tonaufnahme der eigenen Stimme. Es lenkt ab, man kann sich nicht so gut auf sein Gegenüber einlassen. Ein Tipp/Trick: Einfach ein anderes Programmfenster über das eigene Gesicht legen, z.B. für Gesprächsnotizen.

Einig waren sich alle, dass der Aufbau einer "Beziehung" rein online schwieriger ist und dass "Regeln" abgesprochen werden müssen. Manchmal reicht aber schon, einfach Vorreiter zu sein, z.B. den Ton auf stumm zu schalten oder das Video auszumachen. Beides kann die Konzentration erhöhen. In kleinen Arbeitsgruppen funktioniert das Arbeiten in Online-Office per Telefon gut, in großen Gruppen ist es aber wichtig zu sehen wer spricht und einen Kanal zu haben, über den man sich "melden" kann.

Durch die erzwungene Nutzung und mediale Diskussion erkennen viele Bürger die Risiken, die durch die Verarbeitung ihrer Daten entstehen können – z.T. sicher auch unbegründete Ängste. Wir ermuntern Sie: Reden Sie mit! Formulieren Sie ihre Erwartungen bzgl. der Verwendung bzw. Nicht-Verwendung Ihrer Daten gegenüber Anbietern und Herstellern. Sind Sie bereit, für entsprechenden Schutz auch etwas zu bezahlen (oder zu spenden)? Uns fiel vor Kurzem ein spendenbasierter Dienst positiv auf.

Das Digital-Café selbst fand per Whereby statt. Dieser Dienst ist proprietär und wird kommerziell von einem norwegischen Unternehmen angeboten. Datenschutz: In kleinen Räumen (bis 4 Personen, kostenfrei für jedermann) laufen die Daten direkt zwischen den beteiligten Browsern. In großen Räumen (bis 12 Personen, nur ab kostenpflichter „Pro“-Version verfügbar) werden die Daten über den räumlich nächsten der weltweit verteilten Server geroutet. Auf diesem wird entschlüsselt, verarbeitet und wieder verschlüsselt. Videodaten werden dabei nicht abgespeichert.

Zu guter Letzt einige Links, die von den Teilnehmer/Innen zusammengetragen wurden:

Am 12.05.2020 findet unser nächstes Digital-Café statt. Von 19:00 Uhr bis 20:00 Uhr treffen wir uns virtuell, um darüber zu sprechen, was es mit den derzeit so beliebten Videokonferenzen auf sich hat.

Fragen die wir uns dabei stellen wollen sind zum Beispiel:

  • Wie erleben wir den aktuellen Online-Hype? Wäre es zumindest in manchen Situationen eine Alternative sich real zu treffen und dabei auf Distanz zu bleiben?
  • Was ist bei Videokonferenzen anders als am Telefon? Wie schnell gewöhnen wir uns an diese Unterschiede?
  • Welche Kriterien zur Auswahl von Videokonferenztools gibt es? Sollte es möglichst einfach sein? Was darf es kosten? Und welche Rolle spielt Datenschutz?

Wenn ihr am Digital-Café teilnehmen wollt, meldet euch bitte per Mail bei uns an. Dann teilen wir euch die Zugangsdaten rechtzeitig mit.