JA: Es ist richtig, dass die Plattform-Betreiber in die Pflicht genommen werden, findet Julia Krüger

„Gemeinsam gegen Hass im Netz!“ – mit dieser Devise startete Bundesjustizminister Heiko Maas vor zwei Jahren eine Initiative gegen Hate Speech in sozialen Netzwerken. Das war ein wichtiger und richtiger Schritt. Die Politik wollte nicht länger zusehen, wie Menschen aufgrund ihrer Herkunft, Hautfarbe, ihres Geschlechts, ihrer sexuellen Orientierung, körperlichen Einschränkungen oder Religion angegriffen werden. Ob in Kommentaren, Bildern oder Videos – im Netz wimmelt es von Inhalten, die Diskriminierung fördern, rechtfertigen oder dazu anstiften.

Hate Speech vergiftet nicht nur die Kommunikation im Netz

Seit 2015, als besonders viele Asylbewerber nach Deutschland kamen, hat der Hass im Netz stark zugenommen. Verbaler Hass auf Facebook korreliert mit der Anzahl an körperlichen Angriffen auf Flüchtlinge, berichtete die britische Zeitung „The Economist“ kürzlich. Verbaler Hass ist zum Teil strafbar, etwa im Falle von Volksverhetzung, Bedrohung oder Beleidigung. Cybermobbing zerstört die Kommunikation im Netz, doch dabei bleibt es oft nicht. Egal ob nun strafbar oder in der Grauzone der Meinungsfreiheit: Hate Speech kann laut Forschung schlimme Folgen haben, psychisch und unter Umständen sogar physisch. Betroffene sollen etwa unter Kopfschmerzen und erhöhtem Blutdruck leiden. Auch Aggressivität, Angstzustände und Suizid sind möglich. Das Schlimmste daran ist: Hate Speech wird ganz gezielt als verbale Waffe eingesetzt. Etwa um Aktivisten einzuschüchtern, um Gleichgesinnte zu finden oder schlichtweg, um Hass und Hetze in der Gesellschaft zu verbreiten.

Kritiker sind Sturm gelaufen gegen dieses Gesetz

Die Initiative gegen Hass im Netz hat nun das sogenannte Netzwerkdurchsetzungsgesetz (kurz: NetzDG) hervorgebracht. Es besagt, dass die großen sozialen Netzwerke – etwa Youtube, Facebook und Twitter – strafbare Inhalte nach Meldung einzelner Nutzer prüfen und gegebenenfalls löschen müssen, offensichtlich Rechtswidriges innerhalb von 24 Stunden, andere zweifelhafte Beiträge innerhalb einer Woche. Andernfalls drohen hohe Geldstrafen. Kritiker sind Sturm gelaufen gegen dieses Gesetz. Sie haben Angst, dass die sozialen Netzwerke nicht ordentlich prüfen und im Zweifel mehr löschen, als sie müssten. Oder dass rechtspopulistische Akteure das Meldesystem missbrauchen, um legale Inhalte von politischen Gegnern löschen zu lassen. Sie kritisieren auch, dass das Gesetz darauf ausgelegt ist, Hassbotschaften zu löschen, aber nicht darauf, die Täter strafrechtlich zu verfolgen. Was ist also das Gute an der Sache?

Die sozialen Netzwerke haben das Thema Hass im Netz lange ignoriert. Ordentliche Verfahren, um mit Beschwerden umzugehen, gab es nicht, obwohl Twitter, Facebook und Google sich gegenüber der Bundesregierung selbst dazu verpflichtet hatten. Deshalb überhaupt die staatliche Regelung. Mit dem Gesetzgebungsverfahren hat ein Prozess begonnen, der zu einem Austausch zwischen den Plattformen, Politikern und Betroffenen geführt hat. Der das Problem der Öffentlichkeit bekannt gemacht hat. Und: der zahlreiche Initiativen ins Leben gerufen hat, die rechtspopulistischen Medienprovokationen Kreatives entgegnen. Dazu gehören auch Netzwerke, in denen Menschen sich im Falle von Angriffen gegenseitig unterstützen: wie zum Beispiel die Facebook-Gruppe #Ichbinhier.

Endlich haben Betroffene eine effektive Möglichkeit, sich zu beschweren

Das NetzDG ist sicherlich nicht die Lösung, aber immerhin ein Lösungsansatz, der verbessert werden kann. Der Gesetzgeber muss den Rahmen vorgeben, um gegen Hate Speech vorzugehen. Betroffene haben nun eine Adresse, an die sie sich bei Vorfällen wenden können. Denn bisher haben die Plattformbetreiber nur äußerst zögerlich auf Meldungen und Beschwerden reagiert. In seiner jetzigen Fassung übersieht das NetzDG aber etwas Wichtiges: Es sind nicht nur einzelne Nutzer, die Hass und Hetze im Internet verbreiten, sondern auch die Algorithmen. Die Filtermechanismen der sozialen Netzwerke – der Newsfeed bei Facebook oder die Empfehlungen bei Youtube ­– verstärken das, was die einzelnen Nutzer schon kennen und mögen. Die sogenannte Filterblase führt dazu, dass Menschen sich gut informiert fühlen, egal wie unvollständig oder falsch die Informationen sind. Und weil sie sich gut informiert fühlen, sind sie motivierter, ihren Überzeugungen gemäß zu handeln. Die Filterblasen führen also zu einer Polarisierung und Radikalisierung der Gesellschaft zu immer mehr Hass und Hetze, an denen das Löschen einzelner Tweets, Posts oder Comments im Zweifelsfall wenig ausrichten kann. Und die den wenigsten bewusst ist. Hier gilt es, Transparenz einzufordern für die Art und Weise, wie die sozialen Netzwerke gesellschaftliche Diskurse beeinflussen. Denn ansonsten droht den Menschen tatsächlich Manipulation und Kontrolle. Sie wissen nur nicht, wer sie da manipuliert und warum.

Julia Krüger ist Autorin bei netzpolitik.org und Fellow am Center for Internet & Human Rights (Europa-Universität Viadrina, Frankfurt/ Oder). Sie beschäftigt sich mit rechtlichen, technischen und politischen Aspekten der Digitalisierung. Wie können wir Netzinhalte und Algorithmen regulieren? Diese Frage stellt sie sich im Moment besonders oft.

NEIN: Das NetzDG hat eine wichtige Aufgabe schlecht erledigt, entgegnet Theresa Martus

Man kann seine Filterblase noch so fein justiert haben, die Freundes-, Follow- und Blocklisten auf Facebook und Twitter noch so genau austarieren – manchmal erreicht es einen doch. Dann schwappt der ganze Hass, der in einigen Ecken des Internets zu finden ist, über Umwege in die eigene Online-Welt, und man möchte sich schütteln. Weil da Leute jubeln, wenn Flüchtlingsboote untergehen, weil Menschen anderen, die sich für Flüchtlinge einsetzen, für dieses Engagement Vergewaltigung und Tod an den Hals wünschen, weil da „Witze“ gerissen werden von einer Abgestumpftheit und Grausamkeit, dass es einem den Atem verschlägt. Man muss kein Justizminister sein und auch nicht besonders zart besaitet, um sich zu wünschen, dass so etwas aus sozialen Netzwerken verschwindet. All dies ist ekelhaft und menschenverachtend. Einiges ist außerdem sicherlich rechtswidrig.

Aber wo verläuft die Grenze? Was ist noch Meinung, was schon Straftat?

Diese Fragen sind zu wichtig: Sie dürfen nicht an Twitter, Facebook und Konsorten delegiert werden. Aber genau das tut das Netzwerkdurchsetzungsgesetz (NetzDG). Laut dem Gesetz, das seit dem 1. Januar vollumfänglich gilt, müssen soziale Netzwerke rechtswidrige Beiträge auf ihren Seiten innerhalb von sieben Tagen löschen, nachdem sie ihnen gemeldet wurden. Es sei denn, die Beiträge sind „offensichtlich rechtswidrig“, dann muss das sogar innerhalb von 24 Stunden geschehen. Was unterscheidet diese Kategorien? Und wer trifft letztendlich die Entscheidung, was gelöscht wird und was nicht? Muss dieser Mensch juristisch qualifiziert sein? Muss das überhaupt ein Mensch sein?

Das Gesetz legt sich da nicht fest. Nur „wirksam und transparent“ müsse das Verfahren sein, heißt es im Text. Das ist nicht nur unpräzise, sondern legt auch sehr viel Verantwortung in die Hände von Unternehmen, die sich bisher nicht gerade mit Transparenz einen Namen gemacht haben – oder damit, dass sie sich für konstruktive politische Auseinandersetzung interessieren.

Zu viel zu löschen ist für die Plattformen besser als zu wenig zu löschen

Die Netzwerke werden deswegen auch kein Problem damit haben, im Zweifel lieber zu viel zu löschen als zu wenig. Schließlich drohen ihnen hohe Geldbußen, wenn sie systematisch gegen das Gesetz verstoßen. Dass vor diesem Hintergrund auch Beiträge verschwinden können, die offensichtlich Satire waren, wie vom „Titanic“-Magazin oder von Komikerin Sophie Passmann, haben die ersten Tage unter dem NetzDG gezeigt.

Nun sind ein paar Witze, die auf Twitter nicht mehr zu lesen sind, noch nicht das Ende der Debattenkultur in Deutschland. Aber die Fehlschläge in der Regulierung durch das NetzDG sind Wasser auf die Mühlen derjenigen, die ohnehin nie wollten, dass Straftaten wie Volksverhetzung und Beleidigung online verfolgt werden. Die AfD redet von Zensur, die sozialen Netzwerke freuen sich über eine breite Opposition gegen ein Gesetz, das sie sowieso nie wollten. Und Bundesjustizminister Heiko Maas? Verteidigt sein Projekt und tut, als gäbe es die Probleme nicht, die die Kritiker ansprechen, vom Deutschen Journalisten-Verband bis zum Digital-Branchenverband Bitkom.

Ein Gesetz, das es de facto Konzernen überlässt, die Grenzen der Meinungsfreiheit zu definieren, ist ein schlechtes Gesetz – egal wie gut es gemeint war. Dabei brauchen wir dringend eine Lösung gegen den Hass und die Hetze, die sich online so viel schneller verbreiten als über klassische Medien. Doch mit dem NetzDG sind wir davon weiter entfernt als zuvor: Jede Debatte, die in Zukunft darüber geführt wird, welche Regeln im Netz für freie Rede gelten sollen, wird davon geprägt sein, wie unzulänglich dieser Versuch war. Dieser Schaden ist schwer wiedergutzumachen.

Wir können selber aktiv gegen Hass im Netz anschreiben

Und als wäre das alles nicht genug, sieht es aus, als würde das NetzDG nicht einmal seine ursprüngliche Aufgabe erfüllen. Das legt jedenfalls ein Test des Bayerischen Rundfunks nahe. Von der Redaktion gemeldete Kommentare wurden von Twitter gar nicht und von Facebook nur teilweise gelöscht, obwohl sie laut BR gewaltverherrlichende Inhalte zeigen, die nach deutschem Recht womöglich strafbar sind.

Bis es eine sinnvolle, funktionierende gesetzliche Regelung für den Umgang mit Hasskommentaren gibt, müssen Nutzer selbst aktiver werden. Denn dass Hasskommentare nicht verschwinden, nur weil man sich das wünscht, heißt nicht, dass man sie einfach aushalten muss. Wir können dagegen mit eigenen Kommentaren anschreiben, Menschenverachtung nicht einfach unwidersprochen stehen lassen und solidarisch sein mit Opfern von Hetzkampagnen. Wir können klarmachen, dass Hass nicht erwünscht ist – ob nun gerade noch von der Meinungsfreiheit gedeckt oder nicht.

Theresa Martus schreibt für die Zeitungen der Funke Mediengruppe über Politik. Sie findet gut, dass man auf Twitter so viele unterschiedliche Meinungen lesen kann, aber noch besser findet sie lustige Gifs.

Hier lest ihr, welche allgemeinen Strategien es gegen Hate Speech gibt und wie Rechtsextreme Hass im Netz für ihre Ziele nutzen.

Illustration: Renke Brandt