Hate Speech umgrenzen, verstehen und bek\u00e4mpfen \u2013 ein weiterhin aktuelles Thema im Kontext von Online-Kommunikation. Das Thema ist demzufolge auf dem Internet Governance Forum gut aufgehoben, denn es betrifft alle globalen Kommunikationsdienste und alle Rechtsordnungen, wenn auch auf unterschiedliche Art und Weise. Doch der Umgang mit Hate Speech und die Gegenma\u00dfnahmen zeigen bisher wenig Wirkung. Ein mehrversprechender Ansatz w\u00e4re, sich mit der Verantwortung von Plattformen zu besch\u00e4ftigen, ohne sie zwangsl\u00e4ufig staatlichen Akteuren gleichzusetzen.<\/p>\n
\u201eHate Speech\u201c \u2013 Definition, Interpretation, Kontext <\/strong><\/p>\n Kaum ein Begriff aus der US-amerikanischen Rechtswissenschaft ist so pr\u00e4sent in der \u00f6ffentlichen Debatte weltweit wie dieser Sammelbegriff<\/a>. Er steht f\u00fcr \u00c4u\u00dferungen, die darauf abzielen, Menschen abzuwerten, anzugreifen oder anhand derer zu Hass oder Gewalt aufgerufen wird. Die Definition ist breiter als juristische Tatbest\u00e4nde und nicht mit ihnen gleichzusetzen: das macht den Umgang mit diesem Ph\u00e4nomen zur Herausforderung, denn zum einen kommt der Begriff aus einem US-Rechtssystem in dem die Meinungsfreiheit nicht durch den Gesetzgeber einschr\u00e4nkt werden darf (so steht es w\u00f6rtlich im Ersten Zusatz zur US-Verfassung). In der Rechtsprechung des Supreme Courts sind zwar Kategorien anerkannt, die Ausnahmen zum sachlichen Schutzbereich der Meinungsfreiheit bilden, aber generell wird letzterer (f\u00fcr europ\u00e4ische Verh\u00e4ltnisse) sehr weit verstanden. Zum anderen variiert das Verst\u00e4ndnis von \u201eHassrede\u201c weltweit je nach Kulturkreis und Kontext, insbesondere wenn die Kriterien nicht anhand eines objektiven Tatbestand festgelegt sind. Wenn ein Verhalten nicht verboten oder strafbar ist, kann es nichtsdestotrotz \u00f6ffentlich missbilligt sein, aber die Beurteilung f\u00e4llt schwerer, weil zus\u00e4tzlich zu objektiven und allgemeinen Voraussetzungen subjektive Meinungen und Moralvorstellungen miteinflie\u00dfen. Dieses Problem potenziert sich, wenn in einem virtuellen Raum Menschen weltweit kommunizieren k\u00f6nnen und die Plattform, die diesen Kommunikationsdienst anbietet, aus einer Rechtsordnung und einem Rechtsverst\u00e4ndnis stammt, wo jede Regulierung von Meinungsfreiheit als Zensur betrachtet wird. In dieser Mischung von sozialen Normen und fehlenden rechtlichen Vorgaben liegt die Kernherausforderung der Content Moderation (Roberts 2016<\/a>), denn soziale Netzwerke wollen bestimmen, was bei Ihnen ver\u00f6ffentlicht wird, aber scheuen gleichzeitig vor der Verantwortung zur\u00fcck. Sie beschreiben sich selbst als Dienste, die Menschen weltweit miteinander verbinden und die Meinungsfreiheit st\u00e4rken wollen, aber lehnen Inhalte wie Hassrede ab und interferieren somit auf inhaltlicher Ebene.<\/p>\n Nicht nur Hate Speech ist f\u00fcr die Online-\u00d6ffentlichkeit eine Herausforderung, sondern auch Kinderpornographie, extremistische und terroristische Inhalte, Bilder extremer Gewalt u.s.w. Gegen Kinderpornographie und Terrorpropaganda<\/a> haben sich Dienstanbieter zusammengeschlossen und tauschen Informationen aus, um solche Inhalte so schnell wie m\u00f6glich weltweit zu entfernen. Bei Hate Speech hingegen gibt es keinen gemeinsamen Nenner auf globaler Ebene was die genaue Definition und die Auslegung angeht \u2013 was in den USA von der Meinungsfreiheit gesch\u00fctzt wird, kann in Deutschland strafbar sein, wie zum Beispiel Volksverhetzung. Social Media Plattformen m\u00fcssen daher eine Gratwanderung vornehmen, wenn sie ihre Dienste weltweit anbieten: sie stehen entweder als private Zensurapparate oder als Verbreiter menschenfeindlicher Inhalte da. Es ist deswegen nicht zielf\u00fchrend \u00fcber eine globale L\u00f6sung zu sprechen, die die Inhalte anvisiert. Vielmehr muss die Staatengemeinschaft \u00fcberlegen, wie viel Macht sie privaten Plattformen einr\u00e4umen will, wenn die Kommunikation der Zukunft via private Infrastruktur verl\u00e4uft und inhaltlich von den Dienstanbietern bestimmt wird. Es geht um die Emergenz neuer, nicht-staatlicher Akteure, die zwar keine direkten Adressaten des V\u00f6lkerrechts sind, aber f\u00fcr ein globales Problem verantwortlich sind, oder zumindest in hohem Ma\u00dfe involviert.<\/p>\n L\u00f6schen ja, aber filtern nein?<\/strong><\/p>\n Lassen sich lokale Regeln weltweit anwenden, und wenn ja, wie? Das Urteil des EuGHs zur Frage, wie weit die L\u00f6schungspflicht f\u00fcr soziale Netzwerke bei strafbaren (nach \u00f6sterreichischem Recht) Inhalte reicht, ist einerseits konsequent aber andererseits bietet es keine Antwort auf die Folgeprobleme, die eine solche weltweite Anwendung beinhaltet (Glawischnig-Piesczek\/Facebook Ireland Ltd \u2013 C 18\/18<\/a>). Das Gericht begr\u00fcndete seine Entscheidung damit, dass Facebook weltweit t\u00e4tig ist (\u201eglobale Dimension des elektronischen Gesch\u00e4ftsverkehrs\u201c), die Ehrverletzung nicht nur lokal stattfindet (\u201eSchnelligkeit und geografische Ausbreitung\u201c) und dass die Kenntnis im Sinne des Art. 14 Abs. 1 a) E-Commerce-Richtlinie<\/a> weder auf einen EU-Staat, noch auf die Mitgliedstaaten der EU begrenzt sei. Auf der L\u00f6sungsebene setzte es darauf, dass technische L\u00f6sungen vorhanden seien (Rn. 46), wobei es angesichts von Art. 15 Abs. 1 E-Commerce<\/a> betonte, dass damit keine aktive \u00dcberwachung gemeint sei (Rn. 37, 42). Ja, Algorithmen k\u00f6nnen gleiche oder wesentlich gleiche Inhalte erkennen und entfernen, aber diese Systeme sto\u00dfen gerade bei Texten und der Hermeneutik an ihre Grenzen. Zum einen weil man sie durch das Hinzuf\u00fcgen von W\u00f6rtern \u201edestabilisieren\u201c kann, zum anderen weil sie den Kontext nicht erfassen (k\u00f6nnen). K\u00fcnstliche Intelligenz, d.h. zunehmend autonome Systeme, k\u00f6nnen durch maschinelles Lernen zwar immer performanter werden, aber sie stellen eine Black Box dar, deren Entscheidungsgrundlage und -vorgang nicht \u00fcberpr\u00fcfbar sind. Zwar wird der urspr\u00fcngliche Algorithmus von Menschen programmiert, aber zu einem gibt es noch keine verbindlichen Standards<\/a> hierf\u00fcr und zum anderen schwindet die Nachvollziehbarkeit je autonomer die Systeme werden.<\/p>\n Des Weiteren fehlt ein Hinweis des EuGH, wie mit weltweiten L\u00f6schungspflichten nur reaktiv und nicht proaktiv umzugehen sei. Der EuGH hat sich bereits vor Jahren in seinen zwei SABAM-Entscheidungen (Scarlet\/SABAM<\/a>: C\u201170\/10; SABAM\/Netlog<\/a>: C-360\/10) gegen eine verdachtslose Filterung von Kommunikation ausgesprochen, doch diese Klarheit vermisst man in der jetzigen Entscheidung. Au\u00dferdem kann man bei Livestreams nicht mehr von ex ante<\/em> oder ex post<\/em> L\u00f6schungen sprechen: will man Bilder wie die vom Amoklauf in Christchurch<\/a> (NZ) verbannen, dann muss das Hochladen von Inhalten mit einer Pr\u00fcfung einhergehen, oder man verzichtet auf die simultane \u00dcbertragung. Technische L\u00f6sungen wie Upload-Filter, die die informationelle Selbstbestimmung und die Meinungsfreiheit beschr\u00e4nken, m\u00fcssen nicht unter dem Vorwand hingenommen werden, die Datenmenge sei ansonsten nicht zu bew\u00e4ltigen.<\/p>\n L\u00f6schen ja, egal wer und wie?<\/strong><\/p>\n Ist ein Spillover-Effekt von Gesetzen gegen Hassrede w\u00fcnschenswert? Das Netzwerkdurchsetzungsgesetz<\/a> (NetzDG) hat vor und nach seiner Verabschiedung (2017) f\u00fcr viel Diskussionsstoff und scharfe Kritik gesorgt, u.a. vom UN-Sonderberichterstatter f\u00fcr Meinungsfreiheit, David Kaye<\/a>. Das Gesetz verpflichtet soziale Netzwerke ab einer Nutzerzahl von zwei Millionen Nutzern eine Meldem\u00f6glichkeit f\u00fcr strafbare Inhalte in Deutschland einzurichten, solche Meldungen zu pr\u00fcfen und \u201eoffensichtlich strafbare Inhalte\u201c innerhalb von 24 Stunden zu l\u00f6schen. Ob eine strafbare Handlung vorliegt, wird demzufolge erstmal den Content Reviewers \u00fcberlassen und weder die Form der Meldung, noch ein Put-Back-Recht im Falle unbegr\u00fcndeter L\u00f6schung wurden vorgesehen. Neben vielen anderen Kritikpunkten formeller und materieller Natur, besteht das h\u00f6chste Risiko f\u00fcr die Meinungsfreiheit der Nutzer in dem Anreiz, Inhalte im Zweifel zu l\u00f6schen um Sanktionen zu vermeiden (sog. Overblocking). Dar\u00fcber hinaus wird der Umfang der zu l\u00f6schenden Inhalte immer breiter, da Plattformen auf umfassende L\u00f6sungen setzen, die sie (bspw. durch Algorithmen) m\u00f6glichst global einsetzen k\u00f6nnen (sog. Over-Removal). Folglich haben nationale Gesetze nicht nur im jeweiligen Land Konsequenzen, sie werden \u00fcber nationale Grenzen hinaus entweder von den sozialen Netzwerken extensiv angewandt oder inklusive ihrer M\u00e4ngel von anderen Staaten \u00fcbernommen.<\/a> Dieser \u00dcbertragungseffekt ist kaum wieder einzufangen, auch nicht durch Korrekturen des deutschen Gesetzgebers. In ihrem Ma\u00dfnahmenpaket \u201eGegen Extremismus und Hass\u201c<\/a> hat die Bundesregierung angek\u00fcndigt, dass soziale Netzwerke \u201estrafrechtlich relevante Beitr\u00e4ge wie Morddrohungen oder volksverhetzende Inhalte\u201c mitsamt der IP-Adressen der Absender dem Bundeskriminalamt melden m\u00fcssen. Welche Folgen die Meldepflicht bei absoluten Antragsdelikten wie \u00a7 185 f. StGB haben soll und wer die erh\u00f6hte Zahl der Anzeigen bew\u00e4ltigen<\/a> soll, wird daraus nicht klar. Das Vorhaben l\u00f6st au\u00dferdem weder die Schwierigkeiten des NetzDGs, noch das Problem von Hate Speech.<\/p>\n Ausblick<\/strong><\/p>\n Das Thema \u201eHate Speech\u201c ist von der Agenda von Internet-bezogenen Konferenzen nicht wegzudenken \u00ad\u2013 leider. Auch wenn die Meinungsfreiheit aus Art. 19 ICCPR<\/a> f\u00fcr nicht-staatliche Akteure rechtlich nicht-bindend ist und auch sonst das Verst\u00e4ndnis von Meinungsfreiheit und ihrer Grenzen differiert, muss darauf geachtet werden, dass sie unter dem Vorwand des Schutzes der \u00d6ffentlichkeit nicht unverh\u00e4ltnism\u00e4\u00dfig eingeschr\u00e4nkt wird. Im Ergebnis wird die Antwort nicht entweder juristisch oder technologisch sein, sie wird beides beinhalten und auch Medienkompetenz und Bildung miteinbeziehen m\u00fcssen. Ein Vorschlag<\/a> w\u00e4re au\u00dferdem, dass das Herstellen von \u00d6ffentlichkeit mit der Einhaltung bestimmter Grundrechte einhergehen m\u00fcsse, damit w\u00e4ren alle Akteure \u2013 ob staatlich oder nicht \u2013 an die Mindestgew\u00e4hrleistung von Meinungs- und Informationsfreiheit gebunden. Eventuell werden sich soziale Netzwerke ansonsten davon verabschieden m\u00fcssen, ein Spiegel der \u00d6ffentlichkeit darzustellen, wenn sie gegen Hate Speech vorgehen wollen, denn den Anspruch \u201eallen eine Stimme zu geben\u201c k\u00f6nnen sie nicht erf\u00fcllen.<\/p>\n <\/p>\n Am\u00e9lie Pia Heldt ist Junior Researcher im Bereich Meinungsmacht & digitale Medien am Leibniz-Institut f\u00fcr Medienforschung | Hans-Bredow-Institut (HBI) in Hamburg<\/em>.<\/em><\/p>\n <\/p>\n