Selbstbestimmt.Digital

Die Bundestagswahl rückt näher und wir freuen uns, im Rahmen der Initiative Digital Zivilgesellschaft und gemeinsam mit Digitale Gesellschaft e.V. (digiges) eine hochkarätig besetzte Diskussionsrunde mit partizipativen Elementen aus der Fishbowl-Methode für die 109. Ausgabe des Netzpolitischen Abends (#NPA109)zu präsentieren:

Datum und Startzeit: Dienstag, 7. September 2021, um 20 Uhr

Gäste: Saskia Esken (SPD), Tabea Rößner (Die Grünen), Anke Domscheit-Berg (Die Linke), Manuel Höferlin (FDP), Thomas Heilmann (CDU)
Moderation: Julia Kloiber (Superrr Labs) und Hannah Schilling (Selbstbestimmt.Digital e.V.)

Auf der c-base sind leider keine Plätze mehr verfügbar. Die Veranstaltung wird aber natürlich wie immer aufgezeichnet und live gestreamt:
https://www.youtube.com/cbasespacestation/live

Wir freuen uns über zahlreiche diskussionsfreudige Gäste – online und vor Ort – und wünschen uns allen einen spannenden Abend!

Wer setzt wozu KI ein und was hat das mit meinem Instagram-Account zu tun? Und was mit mir, mit uns, mit Politik? Um diese Fragen dreht sich alles in unserem Online-Workshop per BigBlueButton am Dienstag, 15. Juni 2021, von 18.30 bis 21 Uhr. Auf zum Workshop und zur Anmeldung (siehe ganz unten)? Einfach weiterlesen - here we go:

Um was geht es?
Plattformen wie Youtube, Twitter und Instagram sind aus der modernen Kommunikations- und Unterhaltungswelt nicht mehr wegzudenken und begleiten unseren Netzalltag. Aber erkennen wir noch, welche Entscheidungen wir selbst treffen und was der Algorithmus für uns entscheidet? Was können wir tun, um autonomer im Netz unterwegs zu sein und weniger persönliche Daten zu teilen? Diesen Fragen gehen wir in einem Abendworkshop mit Netz-Juristin Ramak Molavi und Marketingforscher Prof. André Haller auf den Grund. Im Workshop lernen die Teilnehmer:innen die Funktionsweise von Algorithmen aus der Social-Media-Welt kennen und testen Möglichkeiten, KI zu erkennen, zu umgehen und Profile so zu konfigurieren, dass Privates privat bleibt.

Wer sind die Referent:innen?

Ramak Molavi Vasse’i ist Rechtsanwältin für digitale Rechte (The Law Technologist) und Policy Advisor. Sie ist Gastdozentin an der Universität Potsdam und IE Law School in Madrid. Zu ihren Forschungsschwerpunkten gehören Privatheit und Datenschutz, KI und algorithmische Systeme und Ethik sowie die Regulierung von Technologie.

Prof. (FH) Dr. André Haller ist Hochschullehrer für Marketing, Kommunikationsmanagement und Digital Marketing an der FH Kufstein Tirol. Seine Forschungsschwerpunkte sind unter anderem politische und strategische Kommunikation im Netz sowie der Einfluss der Digitalisierung auf die Gesellschaft und den politischen Diskurs.

Verbindliche Anmeldung an kontakt@selbstbestimmt-digital.de und Zahlungseingang des Unkostenbeitrags von 10 € bis spätestens Mo, 14. Juni 2021 unter Verwendungszweck „Social Media Workshop” auf Selbstbestimmt.Digital e.V., IBAN: DE57 6805 0101 0013 8352 93 // BIC: FRSPDE66XXX, Sparkasse Freiburg-Nördlicher Breisgau.
Die Teilnehmendenzahl ist begrenzt, die Einwahldaten werden nach Anmeldung und Zahlungseingang versandt.

Mit Unterstützung von (Kooperationspartner):

Die EU-Kommission will Ende April 2021 neue Gesetzesvorschläge zu Künstlicher Intelligenz vorstellen. Bisher hat es ihre Anfang 2020 in einem Leak bekannt gewordene Überlegung, ein Moratorium über Gesichtserkennung zu verhängen, nicht in die endgültige Fassung des KI-White Papers geschafft.

Daher möchte die Zivilgesellschaft den Druck auf die EU-Kommission erhöhen. In einer europaweiten Bürger_inneninitiative werden Stimmen gesammelt, um ein Gesetz zu fordern, das biometrische Massenüberwachungspraktiken im öffentlichen Raum verbietet. Die Online-Petition #Reclaim Your Face startet am Mittwoch, den 17. Februar, um 8 Uhr. Abgestimmt werden kann dann hier: https://europa.eu/citizens-initiative/initiatives/details/2021/000001_de

Welche großen netzpolitischen Entwicklungen, Debatten und Projekte können wir in unserem Alltag in scheinbar kleinen (technischen) Routinen und Objekten wiederfinden - und dadurch greifbar machen? Unter dem Titel "Das Große hinter dem Kleinen - Gesichts-erkennung im Alltag. Komfort, öffentlicher Raum und (Gegen-)Strategien aus Kunst, Politik & Recht" bringen wir mit dem Start bei den Bundesweiten Aktionstagen für Netzpolitik & Demokratie einen Podcast dazu heraus. Seit 11.11.2020 könnt ihr die Folgen von "Power digital: Selbstbestimmt im Gespräch - der S.D-Podcast" hier auf unserer Homepage anhören. Bis 2.12.2020 gibt es jeden Mittwoch eine neue Folge.

AB JETZT hier alle vier Folgen zum Anhören!

Interviews: Simon Vollmer, Valerie Brachmann, Jonas Vollmer // Moderation: Jonas Vollmer, Valerie Brachmann // Schnitt & Technik: Mareike Glöckner, Olav Seyfarth // S.D dankt allen Passant_innen in Mainz, Hamburg & Berlin!

Sites: "CV Dazzle", Adam Harvey, Ariana Dongus, Digitale Freiheit

Veranstaltungen & Aktionen zum Mitmachen: Virtuelle Podiumsdiskussion am 1.12.2020 "Gesichtserkennung in Europa" (HSRM, DAM) (Anmeldung online) // Kampagne #ReclaimyourFace und ein Überblicksartikel dazu auf heise.de

Film & Audio: Face it! (Gerd Conradt, 2019), Podcast Cosmo TECH (WDR, 2019)

Du willst deine Gedanken zu Gesichtserkennung in unsere Interviews mit Expert_innen einbringen? Schreib uns gerne: kontakt@selbstbestimmt-digital.de // Twitter: @Selbstb_Digital

Darum geht es: Meine Identität? Mein Gesicht! Biometrische Daten werden bei der (automatisierten) Gesichtserkennung systematisch genutzt, um die Identität einer Person zu bestimmen - für rechtliche, wirtschaftliche oder politische Zwecke. Ob im Alltag bei der Smartphone-Bedienung per Face ID, bei Grenzkontrollen und Reisen per Flugzeug, oder bei Überlegungen zur Videoüberwachung im öffentlichen Raum: Wo enden praktischer Komfort und Vorteile, wo beginnt demokratie- und freiheitsfeindliche Überwachung digital?

Zu diesem Spannungsfeld befragten wir vorab Bürger_innen in den Fußgängerzonen von Freiburg, Mainz, Hamburg und Berlin. Deren Antworten diskutieren wir im Audio-Interview mit Expert_innen. Unser Audio-Format ist ab dem 11. November online verfügbar. Dabei erkunden wir konkrete Möglichkeiten, wie wir als Einzelne im Alltag (in Routinen, mit Kunst und Maskerade) und als Gesellschaft (mit rechtlichen und politischen Strategien) mit Gesichtserkennung umgehen können.

Unsere Partner für die Bundesweiten Aktionstage Netzpolitik & Demokratie:

https://www.lpb-bw.de/ https://www.berlin.de/politische-bildung https://zkm.de/de

Klar machen auch Andere Veranstaltungen zum Thema Gesichtserkennung:

• Mit Vorträgen und anschließender Diskussion wirft die Online-Veranstaltung „Gesichtserkennung in Europa“ des Projekts IMPACT RheinMain am 01.12.2020 von 15 bis 18 Uhr einen vielfältigen Blick auf das Thema Gesichtserkennung sowohl aus anwendungsorientierter wie aus gesellschaftshistorischer Perspektive…
• Aus dem EDRi-Newsletter vom 12.11.2020: "Today, civil society across Europe launches the “Reclaim Your Face” campaign, demanding that local and national authorities listen to their communities about the serious risks of using facial recognition and other biometric technologies in public spaces…

Gern nehmen wir auch Eure Hinweise mit hier auf … schreibt uns einfach!

Irgendwas läuft schief in unserer Demokratie: Nach unserer Einschätzung wurden für kein anderes Thema so viele Gesetze erlassen, die postwendend von Gerichten wieder kassiert wurden. Die Rede ist von der anlassunabhängigen Speicherung digitaler Spuren im Internet, besser bekannt als Vorratsdatenspeicherung. Es muss ein wichtiges Thema sein, wenn man dennoch in allen europäischen Staaten und in der EU wieder und wieder Anläufe dazu nimmt. So auch dieser Tage unter der deutschen Ratspräsidentschaft. Dazu später mehr.

Heute hat der Europäische Gerichtshof zum bereits dritten mal geurteilt, dass die Vorratsdatenspeicherung nicht mit EU-Recht vereinbar ist. Zuvor waren bereits in 2014 und 2016 ähnliche Urteile gefallen. Im aktuellen Urteil hat der EuGH die vorherigen Urteile bestätigt und betont, dass eine generelle anlassunabhängige Speicherung nicht zulässig ist. Ausnahmen hiervon, müssen immer auf einen konkreten Anlass bezogen und die Datenspeicherung auf das notwendigste Maß beschränkt sein. Nun steht zu befürchten, dass die vom EuGH ausgeführten Ausnahmen die Debatte über eine Wiedereinführung der Vorratsdatenspeicherung erneut befeuern.

Aber treten wir einen Schritt zurück. Worum geht es bei der Vorratsdatenspeicherung? Es geht um Verbrechensbekämpfung: Sowohl um die Aufklärung von Verbrechen, die bereits stattgefunden haben, als auch um das Vereiteln geplanter Straftaten. Beides dient dem Ziel, die Bevölkerung zu schützen und ist somit zweifelsfrei Aufgabe staatlicher Gewalt. Dieser Bevölkerungsschutz trifft im Digitalen auf "neue" Herausforderungen.

So ist es heute (auch Verbrechern) möglich zu kommunizieren ohne dass ein staatliches Organ das Gespräch abhören kann, etwa durch Ende-zu-Ende-Verschlüsselung, wie sie in Messengern (WhatsApp, Threema, …) eingebaut ist. Das war früher anders: Ein "normales" Telefongespräch (Festnetz und Mobilfunk) konnte abgehört werden. Das wird auch heute (rechtskonform) getan. Mit richterlichem Beschluss. Im Einzelfall. Nach einem Anfangsverdacht.

Das Problem, das Strafverfolger damit haben, ist, dass sie nach einer Straftat keine Beweise und vor einer geplanten Straftag keine Indizien für eine geplante Straftag haben – und damit zuweilen ihre Aufgabe nicht wahrnehmen können. Die Folgerung: Sie brauchen früher, schneller und mehr Daten. Gesetze zur anlasslosen Speicherung von Daten sollen deren Umfang und mögliche Verwendungszwecke festlegen.

Bisherige Gesetze zur Vorratsdatenspeicherung wurden von Gerichten z.T. wegen "handwerklicher Unzulänglichkeiten" (schlimm genug!), aber eben auch wegen grundsätzlicher Bedenken für ungültig erklärt. Die wichtigsten Gründe aus unserer Sicht:

• Die anlasslose Datenerfassung beschränkt das Grundrecht auf informationelle Selbstbestimmung unbescholtener Bürger. Das ist in Ordnung (!), muss aber gegen andere Grundrechte abgewogen werden!
• Meist kann der Personenkreis nicht eingegrenzt werden, da ganze digitale Ökosysteme überwacht werden sollen. Dies entspricht einem (zu?) großen Beifang "im Schleppnetz".
• Es ist z.T. nicht vorhersagbar, welchen Informationsgehalt die Daten haben die bei einer solchen Speicherung erfasst würden. Menschen tun unterschiedliche Dinge, auch digital. Daher kann man aus ein und derselben Datenart völlig verschiedene Schlüsse ziehen. Im Kontext betrachtet, müssten diese Situationen aber ethisch und rechtlich unterschiedlich bewertet werden.
• Die Menge der "auf Vorrat" erhobenen Daten ist häufig so groß, dass man maschinelles Lernen (KI , keine Nachvollziehbarkeit!) und manuelle Nachbearbeitung (Sichtung irrelevanter privater Informationen!) benötigt.
• Die Speicherung soll in der Regel nicht vom Staat selbst, sondern von marktwirtschaftlichen Unternehmen durchgeführt werden. Das kostet Geld, was diese Unternehmen auf den Produktpreis umlegen. Aber auch der Schutz dieser Daten kostet Geld, und hier weniger Geld auszugeben erhöht deren Marge.
• Erhobene Daten bieten verlockende weitere Nutzungsmöglichkeiten. Erfahrungsgemäß erfolgt mit der Zeit eine Zweckerweiterung. So geschieht dies aktuell bei den Corona-Kontaktlisten der Gastronomie, die eigentlich nur fürs Gesundheitsamt sind, aber (nicht nur in Bayern!) zur Aufklärung von Verbrechen herangezogen werden.
• Die Sicherheit von Daten ist nicht absolut bzw. hat eine Halbwertszeit. Dies belegen die viele Datendiebstähle und Datenpannen der letzten beiden Jahre eindrucksvoll: Von Unternehmen über städtische Behörden bis zu Gerichten. Z.T. betrafen solche Pannen die gesamte Bevölkerung eines Landes.

Nun ist es wieder einmal soweit: Nachdem es in Deutschland gerade wieder auf der Tagesordnung war ist damit zu rechnen, dass sich nun auch die Innenminister der EU-Mitgliedsstaaten erneut auf einen gemeinsamen Vorstoß verständigen werden. Noch einmal sei gesagt: Ja, Strafverfolgung muss möglich sein. Unserer Ansicht nach muss aber zuerst eine gesellschaftliche Auseinandersetzung erfolgen. Denn wenn einmal Gesetze und Systeme eingerichtet sind, bekommt man sie erfahrungsgemäß nicht mehr los. Daher unterstützt Selbstbestimmt.Digital den NGO-Brief von Digitalcourage an die Verantwortlichen in der EU – wie auch viele weitere Bürgerrechtsorganisationen.

Denn unser Verhalten im Internet zu erfassen ermöglicht das Erstellen aussagekräftiger Profile (was ja das Ziel ist, wenn man Straftaten verhindern will). Aber machen wir bitte einen Vergleich mit der realen Welt: Wir könnten bestimmt auch verhindern, dass jemand verprügelt wird, wenn an jeder Straßenecke (oder an jeder Hausecke, oder in jedem Zimmer) ein Polizist stünde. Aber würden wir uns DAS gefallen lassen, "nur" weil man damit eine Straftat verhindern kann? Und würden wir es akzeptieren, wenn alle Beobachtungen der Polizisten (unabhängig von Straftaten!) an zentraler Stelle gesammelt würden?

Wir dürfen auch nicht vergessen (und gerade wir Deutschen sollten wissen, auch wenn nun 30 Jahre Gras darüber gewachsen ist), dass "der Staat" oder "die Polizei" auch nur aus Menschen besteht. Menschen, die Fehler machen oder im Einzelfall bzgl. ihrer Integrität, Moral und in ihrem Verhalten nicht dem Idealbild entsprechen, das wir uns leichtfertig ausmalen könnten. Und Daten sind Macht. Wir sollten uns genau überlegen, wem wir wie viel Macht in die Hand geben und wo wir lieber die verbleibende Unsicherheit als Bürger und als Gesellschaft tragen oder aushalten wollen.

Randbemerkungen zum Kontext: In den letzten Jahren wurden etliche (Polizei-)Gesetze erlassen, die aufwändig erstrittene Freiheitsrechte drastisch beschneiden. Derzeit gibt es viele technische Möglichkeiten, die vor dem Hintergrund der Überwachung zumindest problematisch sind. Wir haben vor, hier demnächst im Rahmen der bundesweiten Aktionstage "Netzpolitik und Demokratie" zum Thema Gesichtserkennung aktiv zu werden.

Ergänzungen (Presseartikel) – gern kannst du uns weitere Links schicken:

• heise, 19.11.2020: Drei Bundesländer fordern Wiederaufnahme der Vorratsdatenspeicherung
• heise hat dazu auch eine eigene Rubrik Vorratsdatenspeicherung

Versauert euch der kühle Sommer aktuell bisweilen die Laune? Seid ihr ohne Inspiration mangels Sonne? Dann gönnt euch einen Schub Inspiration aus dem Digitaltag 2020, der am 19. Juni bundesweit stattfand! Ob der Selbsttest zur Frage "Bin ich digital kompetent?", Chatbots und KI in der Weiterbildung, ein Spiel rund um Fake News oder IT-Sicherheits-Basiswissen in Video-Snacks - wir haben euch ein paar Link-Perlen zusammengesammelt. Klickt auf den Link zum Cryptpad und los geht die Entdeckungsreise - gerne dürft ihr natürlich eure Highlights aus dem Digitaltag 2020 im Pad ergänzen!

Der nächste Digitaltag ist am 18. Juni 2021.

Weitere Leselust? Wir haben Anfang des Jahres zusammen mit anderen NGOs, Journalist_innen und Institutionen in einem Workshop der Stiftung Neue Verantwortung zu Nachrichten- und Informationskompetenz mitgearbeitet. Hier geht's zum daraus entstandenen und nun veröffentlichten SNV-Paper: "Verstehen, was ist. Auf dem Weg in die nachrichtenkompetente Gesellschaft.".

Und falls ihr Lust auf's Anpacken alleine oder mit uns habt: Im November sind wieder die bundesweiten Aktionstage Netzpolitik & Demokratie. Wir freuen uns auf eure Mails und Tweets (@Selbstb_Digital) mit euren Ideen und Impulsen für Veranstaltungen und Aktionen!

Nun ist sie also da, seit dem 16. Juni 2020 - die Corona-Warn-App. Wir haben mit Freude die intensiven Debatten um die Datenspeicherung, Zugriffsfragen und Datenschutz mitverfolgt und mitgestaltet (siehe unser Radio-Interview). Die App scheint als Teil der Maßnahmen (Tests, Abstand, Hygiene etc.) zur Pandemie-Bekämpfung durchaus vielversprechend. Es gibt sehr gute Gründe, die App zu installieren. Und solche, die eher dagegensprechen. Dank Anne Schwarz (@akaer) und dem Ticker des D64 sowie einer exzellenten Pressemitteilung des FifF können wir euch einen ersten Überblick geben: für eure ganz selbstbestimmt digitale Entscheidung, bei der ein Blick auf die aktuell öffentlich kaum diskutierte alltägliche Datensammlungspraxis von Digitalkonzernen auch erhellend sein kann.

Anne Schwarz via D64-Ticker:

"Ist die App sicher? Kommt darauf an, wen man fragt. Prominente Vertreter der "Njet!"-Meinung kommen von Digitalcourage, TÜVit (wobei der scheinbar zurückrudert) und der Uni-Darmstadt; auf der anderen Seite stehen der Chaos Computer Club, Netzpolitik und Einzelpersonen wie z.B. Laura Sophie Dornheim, die an der App zwar auch viele Baustellen finden, diese aber für weniger riskant halten. Der CCC empfiehlt die Installation der App nicht - das machen die aus guten Gründen nie. Kein vehementer Protest bei so einem prominenten Datenschutz-Thema ist beim CCC aber fast schon ne Vertrauenserklärung (frei nach meinem schwäbsichen Schwiegerpapa „Net gschempft, isch g'lobt g'nuag.“)."

"Bringt sie überhaupt was zur Bekämpfung von Corona? Grundsätzlich kann sie was bringen, als Teil einer größeren Gesamtstrategie - aber wie effektiv sie sein wird, hängt von zu vielen Unbekannten ab (Infektionsraten, "Superspreader"-Events, wieviele Leute installieren das Teil etc.). Eine wirklich verlässliche Aussage auf wissenschaftlicher Basis traut sich gerade keiner zu treffen. Erfahrungsberichte anderer Länder, die ähnliche Technologien bereits einsetzen (drei Beispiele verlinkt hier Patrick Beuth bei SPON), sind zwar informativ, aber nicht direkt übertragbar. Es ist ein Experiment. Müssen wir also erstmal durchführen, um zu wissen was dabei rauskommt."

"Was gefällt netzpolitischen Expert:innen daran? Erstmal finden so ziemlich alle die Verwendung des dezentralen DP3T-Ansatzes gut, den er macht viele Schweinereien im Datenschutz schwerer oder unmöglich. Darüber hinaus loben der Chaos Computer Club und andere, dass der Quelllcode frei zugänglich ist (nämlich hier), und dass sich SAP und Telekom für Verbesserungsvorschläge wirklich interessieren und diese auch recht schnell und transparent lösen."

"Was gefällt netzpolitischen Expert:innen NICHT daran? Hier gibt es eine technische und eine politisch-gesellschaftliche Sicht. Technisch wird insbesondere das Thema Bluetooth (Angriffsfläche für z.B. Wurmloch-Attacken, Bluetooth Low Energy nicht auf allen Smartphones verfügbar) und die Google/Apple-Einbindung kritisch gesehen (z.B. von digitalcourage). Politisch-gesellschaftlich bemängelt u.a. Anke Domscheit-Berg in der ARD, das drei elementare Dinge bisher fehlen: einer harte Befristung (also terminiert), eine unbedingte Zweckbindung (App darf niemals für etwas anderes verwendet werden als den ursprünglichen Zweck) und eine Festschreibung der Freiwilligkeit. Letztere könnte man z.B. mit einem Begleitgesetz realisieren, wie es Eren Basar vom Deutschen Anwaltsverein oder Markus Beckedahl in netzpolitik vorschlägt."

"Erklärvideos und FAQs:
Ein schönes, kurzes Erklärvideo zum warum-wieso-und-wie hat die Süddeutsche auf ihrer Seite, auch der SPON hat eins zu bieten.
Einen sehr ausführlichen FAQ bietet netzpolitik, etwas weniger technisch ist die Tagesschau unterwegs."

(Danke, liebe Anne Schwarz, für diesen tollen Überblick!)

Außerdem gibt es noch Fragen hinsichtlich der kompatiblen Smartphones (eine schöne Übersicht hierzu bietet t3n), Schwachstellen in der Pseudonymität durch den Medienbruch (siehe dazu golem und bfdi.bund) sowie noch zu nehmenden Hürden, dass die App problemlos grenzüberschreitend in ganz Europa laufen kann.

Und hier gehts zur Pressemitteilung des FifF: https://www.fiff.de/presse/dsfa-corona-digiges