Loading...
Artikel

Im Kampf gegen den Hass

Erschienen auf Obacht. In Zusammenarbeit mit David Millmann.

(c) Soumil Kumar, Pexels

“A Kugel is dera reserviert”, schreibt Christian Höbart öffentlich einsehbar auf Facebook und meint damit Alma Zadic. Schon vor ihrer Angelobung als Justizministerin ist Zadic auf Facebook mit Morddrohungen und rassistischen Beleidigungen konfrontiert, oft auf FPÖ-nahen Seiten und meist im Zusammenhang mit ihrem muslimischen Hintergrund. Das ist tragisch, aber hat auch einen positiven Aspekt: Österreich redet wieder über Hass im Netz und darüber, wie man ihn denn endlich eindämmen könne. Denn klar ist, dass diese Entgleisungen nur die Spitze des Eisbergs sind, schließlich sind es nicht immer PolitikerInnen, die angefeindet werden. Die meisten Hasskommentare geschehen ohne öffentlichen Aufschrei und bleiben oft ungeahndet.

Hass im Netz, das ist das Arbeitsfeld von Christian Eidherr, damit kennt er sich aus. Er ist seit 2017 im Community Management tätig und betreut die User-Foren auf der Website der Tageszeitung “der Standard”. Etwa 30.000 Postings werden hier tagtäglich veröffentlicht – viele Inhalte, die er mit seinem Team überwachen muss. Im Schichtbetrieb sichten sie Kommentare, von früh bis spät. In der Nacht allerdings ist das Büro nicht besetzt; hier setzt eine Software ein, die vermeintliche Hasskommentare zurückhält, dann wird am nächsten morgen wird vom Team entschieden, ob gelöscht oder freigeschalten wird. Es geht aber nicht nur darum, kritische Postings zu löschen. „Ich versuche dafür zu sorgen, dass der Diskurs in den Foren in geordneten Bahnen abläuft und erhellend ist, dass sich Hass gar nicht erst durchsetzen kann in den Foren. Das geht eben durch Moderation“, erklärt er uns.

“Der Standard” gehört zu den Medienhäusern in Österreich, die mit dem Thema „Hass im Netz“ konfrontiert sind. Denn mit seinen Kommentar-Bereichen und Foren lädt die Zeitung nicht nur zur konstruktiven Diskussion, sondern die einen oder anderen Nutzer auch dazu ein, ihrem Hass freien Lauf zu lassen. Als Hasskommentar sieht Eidherr ein Posting, das „pauschalisiert, diffamiert und Menschen angreift und dabei auf keiner argumentativen Grundlage basiert. Die einzige Funktion eines Hasspostings ist es, eine Gegenseite zu diffamieren oder bloßzustellen.“ Egal, ob abfällige Bemerkungen, unkonstruktive Beiträge oder Hasskommentare – Hass im Internet hat viele Gesichter. Bestehend aus insgesamt 13 MitarbeiterInnen steuert das Team um Eidherr mit einer Kombination aus Prä- und Postmoderation dagegen.

Die „Prämoderation“ erfolgt durch eine Software, die Inhalte scannt. Sind diese bedenklichen Ursprungs oder beinhalten sie Alarmwörter, werden sie nicht direkt ins Forum gestellt, sondern herausgefiltert. Die ModeratorInnen entscheiden dann darüber, ob das Posting freigeschaltet wird. Beiträge, die die Prämoderation nicht filtern konnte, werden manuell in der Postmoderation geprüft. MitarbeiterInnen entscheiden dabei individuell, ob sie ein Posting löschen oder nicht. Wird etwas gelöscht, wird dies auch immer argumentiert. Hassposter landen zuerst auf einer „grey list“, bei weiteren Verstößen werden ihre Accounts entfernt. Laut Eidherr werden zwischen  5 und 7 Prozent der Postings gelöscht.

Das kann bei manchen Usern durchaus übel aufstoßen – Beschwerden sind die Folge. Aber auch mit Drohungen waren die ModeratorInnen bereits konfrontiert. Ein Mitarbeiter erhielt per E-Mail ein von verbalen Drohungen begleitetes Video, in dem ein User einen Holztisch mit einem Samuraischwert bearbeitet. Ein Strafprozess folgte, der Standard zog im Namen des Mitarbeiters rechtliche Konsequenzen. Der Ausgang des Prozesses darf an dieser Stelle aufgrund von Abmachungen nicht genannt werden.

Bis auf derartige Drohungen sieht Eidherr seine Arbeit gelassen – belastend sei sie generell nicht. „Der Großteil meiner Arbeit ist echt erhellend, weil ich einen Einblick in vielfältige Themen bekommen und quasi immer up to date bin, was die Nachrichtenlage betrifft“, beschreibt Eidherr. Er profitiere sehr von der Allgemeinbildung durch die Arbeit. Ermüdend sei es nur dann, wenn in Foren immer dieselben Argumente eingebracht würden und keine Diskussion mehr zustande komme.

Gegen schwerwiegende Postings, wie antisemitische oder volksverhetzende, gehe man in den meisten Fällen nicht strafrechtlich vor. Sie werden jedoch von der Moderation dokumentiert und an die Beratungsstelle „ZARA“ (Verein für Zivilcourage und Anti-Rassismus-Arbeit) übermittelt, die sich gegen Hass im Netz einsetzt.

Anlaufstelle für Betroffene

Bei ZARA erhalten Betroffene kostenlose Beratung, Verstöße können hier anonym gemeldet werden. Auch der Standard wendet sich an die Beratungsstelle, die seit Herbst 2017 für oder vielmehr gegen Hass im Netz zuständig ist. Aber was geschieht dort mit Anfragen?

„Gemeldete Vorfälle werden geprüft, dokumentiert und auf Antrag bei den jeweiligen Plattformen teilweise gelöscht. Betroffene werden – wenn gewünscht – bei diversen Interventionen unterstützt und der Rechtshilfefonds gegen Hass im Netz wird eingesetzt, um Verfahren vor Gericht zu ermöglichen“, erklärt ZARA-Beraterin Felicitas Rachinger. Die Beratungsstelle Gegen Hass im Netz hat bei Facebook außerdem einen „Trusted Flagger“-Status, das heißt eingereichte Löschungen werden mit höherer Wahrscheinlichkeit vorgenommen.

Aber Löschen reicht oft nicht und ist ein Kampf gegen Windmühlen. ZARA geht bei Bedarf auch gerichtlich gegen die Postings vor. Allerdings geht das auch nur, solange die Finanzierung des Rechtshlifefonds gesichert ist – und das ist sie nicht. Bundeskanzlerin Bierlein hat die Finanzierung lediglich für das Jahr 2020 übernommen. Was danach passiert, ist ungewiss. 

Nimmt Hass im Netz zu?

Offizielle Zahlen dazu gibt es nicht, aber die Beratungsstelle ZARA weiß, dass bereits im zweiten Jahr 30% mehr Meldungen eingegangen sind als im Vorjahr – was aber auch an der steigenden Bekanntheit von ZARA liegen kann. Eine “Forsa”-Studie aus Deutschland zeigt, dass bereits 85 Prozent der 14- bis 24-Jährigen mit „Hate Speech“ konfrontiert waren. Es ist schwierig, Hasskommentare allumfassend aufzugreifen. Daher sind Umfragen wie jene von „Forsa“ wohl der beste Indikator, um den Anstieg von Hass im Netz zu messen. Die Zahlen sprechen eine klare Sprache: Hasspostings im Netz nehmen zu. 3.192 Fälle hat ZARA bereits behandelt. 80 Prozent der gemeldeten Fälle sind entweder rassistisch oder sexistisch geartet – oder beides.

Die ideologischen Quellen von Hass im Netz sind unterschiedlich. © ZARA

Gesetzeslösung nach deutschem Vorbild?

ZARA ist die österreichische Zwischenlösung, um dem Hass im Netz zu begegnen. Aber welche weiteren Maßnahmen kann man sinnvollerweise setzen? Deutschland hat mit “HelpAid” auch eine solche Beratungsstelle. In juristischer Hinsicht aber hat Deutschland einen anderen Weg eingeschlagen und das „Netzwerkdurchsetzungsgesetz“ (kurz „NetzDG“) beschlossen. Das seit 1. Januar 2018 in Deutschland geltende Gesetz nimmt die kommerziellen sozialen Netzwerke in die Pflicht. Plattformen mit mindestens zwei Millionen Nutzern müssen „offensichtlich rechtswidrige“ Inhalte binnen 24 Stunden überprüfen und gegebenenfalls löschen, bei komplexeren Fällen gilt eine Frist von sieben Tagen. Wird dem nicht nachgekommen, sind Bußgelder in Höhe von bis zu fünf Mio. Euro vorgesehen.

Bei den sozialen Netzwerken selbst trifft das Gesetz auf scharfe Kritik. In einer elf-seitigen Stellungnahme kritisiert Facebook viele der Punkte, die im NetzDG gesetzlich verabschiedet wurden. Das soziale Netzwerk meint, der Staat ziehe sich aus der Verantwortung und kritisiert dabei, dass der deutsche Staat die Überwachung der BürgerInnen an private Unternehmen auslagere. Das NetzDG sei „unbestimmt, unwirksam und verfassungswidrig“, urteilt der Konzern. Man schaffe mit dem Gesetz vor allem Rechtsunsicherheit und unternehme zudem einen „nationalen Alleingang“, daher sei das Gesetz abzulehnen. Außerdem seien die Pläne ungeeignet, das anvisierte Ziel, dem Hass im Netz vorzubeugen, überhaupt zu erreichen. 

Der Deutsche Bundestag sieht das anders: 1,5 Jahre nach Inkrafttreten sieht er eine „erkennbar gesteigerte Sensibilität der Netzwerkbetreiber für die Themen Hassrede und Desinformation“. Immerhin, wenn sich ein milliardenschwerer Konzern wie Facebook, der vom Handel privater Daten lebt, derart über ein Gesetz empört, legt das den Verdacht nahe, die deutsche Bundesregierung habe hier etwas richtig gemacht. Dafür spricht, dass Facebook kurz nach Inkrafttreten des NetzDG kundgetan hat, die Anzahl der MitarbeiterInnen in der Moderation zu verdoppeln, 10.000 weitere ModeratorInnen werden eingestellt.

Befürchtete Zensur nicht eingetreten

Einer der größten Kritikpunkte des NetzDG war und ist die Einschränkung der Meinungsfreiheit. Als „Zensur in ihrer schlimmsten Form“, bezeichnete beispielsweise der FDP-Abgeordnete Manuel Höferlin das deutsche NetzDG – mit seiner Meinung ist er nicht alleine. Die Befürchtung war, dass Konzerne keine Strafen in Millionenhöhe ausfassen wollen und daher rigoros Postings löschen würden. So wurde unmittelbar nach Einführung des NetzDG vor allem befürchtet, dass Facebook & Co. Beiträge präventiv löschen würden. Doch diese Befürchtung hat sich seit Inkrafttreten des Gesetzes nicht bewahrheitet, wie folgende Grafik zeigt:

Die Klarnamenpflicht: umstritten und gescheitert

In Österreich überlegte man indes, die „Klarnamenpflicht“ einzuführen. Diese hätte eine Einschränkung der Anonymität im Internet mit sich gebracht. Nutzer von sozialen Medien müssten demnach beim Anbieter ihre Adresse und ihren Klarnamen (also den echten Namen) hinterlegen. Sie sollte für Medienhäuser gelten, die mehr als 50.000 Euro an Presseförderung erhalten, also für fast alle österreichischen Tageszeitungen – so auch für den Standard, der dadurch einen starken Rückgang der UserInnen befürchtet. Aber was würde es nützen? Nichts bis wenig, wie die Expertin für Hass im Netz, Ingrid Brodnig, weiß: „Stärkere Identifikationspflichten lösen nicht automatisch das Problem der Hasskommentare.“ Korea beispielsweise hat eine Klarnamenpflicht zum selben Zweck 2007 eingeführt. Die Konsequenz: 2011 wurden südkoreanische Websites gehackt und die privaten Daten von 70 Prozent der Bevölkerung gestohlen, das Gesetz wurde schließlich vom südkoreanischen Höchstgericht abgeschafft.

Die Diskussion um die Klarnamenpflicht ist in Österreich ohnehin eingefroren. Denn der Vorschlag stammte aus der Zeit, bevor die Türkis-Blaue Regierung gesprengt wurde. Seither ist wenig geschehen, erst mit den Anfeindungen gegenüber Justizministerin Alma Zadic kommt wieder Bewegung in die Debatte und allen ist klar, dass Österreich ein Gesetz gegen Hass im Netz braucht. Eines, das wirkt.

Österreich am Scheideweg

Hass im Netz stellt Plattformbetreiber vor eine wahre Sisyphos-Aufgabe. Denn das Problem ist schwer an der Wurzel zu packen. In seinem Kern ist es ein gesellschaftliches Problem, dem man mit technischen Mitteln nur bedingt entgegengewirken kann . Gerade daher braucht es Signale auf politischer und persönlicher Ebene. 

ZARA wünscht sich mehr Staatsanwälte, die sich mit dem Problem Hass im Netz befassen. Zudem eine Änderung des Cyber-Mobbing-Paragrafen, damit auch das einmalige, und nicht erst das wiederholte Posten – beispielsweise eines Nacktfotos – verfolgt werden kann. „Alles andere widerspricht der Realität, da erstens bereits ein einmaliges Posting Auswirkungen auf Betroffene hat und zweitens ein Posting im Internet zeitlich unbegrenzt abrufbar bleiben kann“, so Felicitas Rachinger. Bei Hass im Netz ist vor allem jeder Einzelne gefragt.

Eine Regelung wie das NetzDG könnte auch für Österreich ein Schritt sein, dem Hass auch gesetzlich entgegenzuwirken. Christian Eidherr vom Standard kann sich ein solches Gesetz gut vorstellen. „Es würde uns jetzt keine Probleme machen, wir würden ja innerhalb des vorgegebenen Zeitraums löschen.“ Auch Ingrid Brodnig findet die Idee richtig: „Es ist schon gut, wenn große Plattformen einen klaren Druck spüren, die Meldung strafbarer Inhalte auch ernst zu nehmen und zum Beispiel Verhetzung und Bedrohung nicht einfach stehenzulassen.” Auch wenn jede noch so gute Moderationssoftware die Haltung der Menschen nicht verändern kann, sind Präventionsmaßnahmen dennoch wichtig. Den Diskurs in geregelten Bahnen zu halten, und die Sprache auf Augenhöhe – das Community Management um Eidherr beim Standard macht es vor.