|||

#256 Overblocking

Tetris

Let’s talk about Netzwerkdurchsetzungsgesetz, kurz NetzDG. Das Gesetz, in Kraft getreten im Oktober 2017, sollte der besseren Bekämpfung von Hasskriminalität im Netz dienen. Es führte Berichtspflichten für Soziale Netzwerke mit mehr als zwei Millionen registrierten Nutzern ein und verpflichtete daher vor allem die großen Anbieter wie Facebook, Instagram, YouTube und Twitter, nach deutschem Recht rechtswidrige Inhalte zu sperren.

Kritiker:innen sprachen von Zensur-Infrastruktur”. Denn während das offizielle Ziel des NetzDG die Eindämmung von Hate Speech ist, nutzte z.B. der türkische Präsident Erdoğan das deutsche Gesetz als Vorbild für eine Regelung zum Entfernen von unliebsamen Kommentaren. Eine aktuelle Studie der Hochschule für Technik, Wirtschaft und Kultur Leipzig (HTWK) findet in der Anwendung des Netzwerkdurchsetzungsgesetzes zudem Anhaltspunkte für Overblocking.

Um sich in der Praxis vor Bußgeldern zu schützen, filtern die Plattformen dabei mit Hilfe von Künstlicher Intelligenz den Content heraus, der vermeintlich rechtswidrig ist. In diesem Zusammenhang wird von sogenannten Uploadfiltern gesprochen; Filter, die bereits vor einer Veröffentlichung (z.B. eines Facebook Postings oder eines Tweets), den Beitrag automatisch sperren. Die freie Meinungsäußerung wird eingeschränkt, weil sie bereits im Vorfeld geblockt wird. Bestimmte Trigger”-Wörter führen zum Maulkorb durch KI.

Nicht nur geschriebene, sondern auch gesprochene Trigger”-Wörter könnten dazu führen, dass die Polizei vor deiner Tür auftaucht. Vor allem, wenn du tatsächlich ein Mörder bist und dich die Daten von Alexa oder deiner Smartwatch verraten.

Florian Flade und Moritz Börner vom WDR fragen in Alexa, wer ist der Mörder?” nach den verräterischen Daten im Zusammenhang mit der Aufklärung von Straftaten. Ja, Geodaten des Smartphones haben bereits Täter überführt und ja, smarte Speaker zeichnen bei Trigger Words” Gespräche auf.

Wenn Mitschnitte Morde aufklären, werden sie dankend angenommen. Aber, um im Bild zu bleiben: Es ist das gleiche Totschlagargument wie Kindesmissbrauch aufklären”, wenn über anlasslose Massenüberwachung in Form der Vorratsdatenspeicherung diskutiert wird. Die EU plant so etwas gerade und nennt es Chatkontrolle: Die anlasslose Echtzeit-Massenüberwachung all deiner E-Mails und Nachrichten.

In einer Post-Snowden-Ära sollte mittlerweile klar sein, dass jede:r etwas zu verbergen hat.

Die Überwachung aller privaten Kommunikation, um sehr wenige Straftaten herauszufiltern, ist nicht verhältnismäßig. Hinzu kommt der Ruf nach Backdoors in Software. Also Hintertüren für verschlüsselte Kommunikation, damit die vermeintlich Guten, also Strafverfolgungsbehörden, Polizei - der Staat - eine Verschlüsselung im Zweifel aushebeln können.

Hier schließt sich der Teufelskreis: Die Plattformen und die Massenüberwachung sorgen für Selbstzensur und konformistisches Verhalten. Durch das Overblocking werden die Nutzer:innen noch weiter in ihrer Meinungsfreiheit eingeschränkt, der offene Austausch von Wissen und Ideen wird geschädigt.

Die andere Seite der Medaille:

Anfang April trat das Gesetzespaket gegen Hass und Hetze in Kraft.

Wenn jemand im Netz Anfeindungen ausgesetzt ist, kann das verheerende Folgen haben. Nicht nur, dass sich betroffene Personen - meist Frauen - gar nicht mehr äußern und ihre Meinung somit überhaupt kein Gehör findet. Sie müssen sich aufgrund von Bedrohungsszenarien zum Teil komplett aus der Öffentlichkeit zurückziehen. Es gibt viele Beispiele von Vergewaltigungs- und Morddrohungen, die ihre Wirkmacht entfalten. Die Wissenschaftlerin Natascha Strobl hat sich vorerst von Twitter zurückgezogen, die Autorin Jasmina Kuhnke musste ihre Wohnung verlassen und umziehen. Drohungen führen nachweislich zu Taten, Stichwort Mordfall Walter Lübcke. Und als markierte Zielperson” kann es gefährlich werden.

Wenn die private Adresse in einem Bedrohungs-Kontext explizit genannt wird, dann schützt man sich und seine Familie. Mit dem neuen Gesetz sind Anbieter verpflichtet, Morddrohungen und volksverhetzende Äußerungen dem Bundeskriminalamt zu melden. Das Strafgesetzbuch wurde verschärft, der Strafrahmen angehoben. Zudem kann eine Auskunftssperre im Melderegister eingetragen werden, d.h. Personen sind davor geschützt, dass ihre Adressen weitergegeben werden. Es sei denn, die Polizei missbraucht die eigenen polizeilichen Datenbanken.

Das Gesetz wird zeigen müssen, ob in Zukunft härter gegen Hetze im Netz vorgegangen wird und ein besserer Schutz gewährleistet ist. Und die Plattformen müssen auch noch mitspielen. Dass strafbare Aussagen im Netz effektiv geahndet werden, dagegen hat sicher niemand etwas.

Trotzdem bleibt die Strafverfolgung im Netz ein schwieriges Terrain: Der Staat und auch die Europäische Union möchten möglichst jede Kommunikation mitlesen. Die Nutzer:innen möchten frei ihre Meinung äußern, in einem geschützten Umfeld ohne Hetze. Die Plattformen sind trotzdem voll davon. Auch ohne Overblocking bleibt ein riesiger Block an Arbeit. Lasst uns Tetris spielen!

#hatespeech #hassrede #uploadfilter #vorratsdatenspeicherung #überwachung #chatkontrolle #datenschutz #overblocking #netzdg

Up next #255 Dark Man X #257 Audio Ära
Latest posts #276 Meine Wahlempfehlung zur Bundestagswahl 2021 #271 Kim Dotcom feat. #267 New Job, new Leif #266 Der politische Regenbogen 🌈 #265 Trojaner #264 Loki #263 Geschichten aus der Hood 💀 #262 9 Serien, die mich gut durch die Pandemie gebracht haben #261 Jan Delay #260 Bei der Macht von Grayskull #259 Im Impala durch die Zeit #258 Superhero Lettering #257 Audio Ära #256 Overblocking #255 Dark Man X #254 Mona Lisa #253 Perfekte Pasta #252 Easy Like Sunday Morning #20 Hammerhart #19 Breaking Bad #18 Internet-Humor #17 The War on Drugs is an Epic Fail #16 Snowdens Helfer waren Flüchtlinge #15 Webcam überkleben, the shit is real #14 Das ästhetische Empfinden in der Musik ist erlernt #13 Der Schrecken des Krieges in einem aufwühlenden Motiv #12 DANG! #11 Insert Words #10 Konzentration? #9 The revolution will not be televised #8 Farbenlehre