Was wir gegen Hassrede und illegale Inhalte unternehmen

Facebook gibt Menschen auf der ganzen Welt die Möglichkeit, sich miteinander zu vernetzen und Inhalte zu teilen. Diese Unterhaltungen spiegeln die Vielfalt einer Gemeinschaft wider, die sich aus Menschen unterschiedlicher Länder und Kulturen zusammensetzt. Facebook ist ein Ort, der für alle Meinungen offen ist. Gleichzeitig möchten wir, dass sich Menschen auf Facebook willkommen und sicher fühlen.

Hassrede und Gemeinschaftsstandards
Bei der Bekämpfung von Hassrede ist die erste Herausforderung bereits die Definition von Hassrede. Bei den Diskussionen auf Facebook geht es auch um Themen wie Nationalität, Ethnizität, Geschlecht und andere persönliche Eigenschaften. Menschen können verschiedene Meinungen haben – z.B. zur Außenpolitik eines Landes oder die Moralvorstellungen einer bestimmten religiösen Lehre. Auf Facebook wollen wir die Diskussion dieser Themen ermöglichen.

Aus diesem Grund haben wir eine Reihe von Gemeinschaftsstandards ausgearbeitet. Diese Richtlinien vermitteln, welche Inhalte auf Facebook erlaubt sind und welche nicht. Zum Beispiel tolerieren wir keinerlei Mobbing und Belästigung und entfernen Inhalte, die darauf abzielen, Menschen zu beschämen. Unsere Gemeinschaftsstandards verbieten Angriffe auf Personen wegen ihrer Ethnizität, nationaler Herkunft, Religionszugehörigkeit, sexueller Orientierung, Geschlecht bzw. Geschlechtsidentität oder schwerer Behinderungen und Krankheiten. Wir löschen solche Inhalte, sobald wir auf sie aufmerksam gemacht werden.

Es gibt jedoch keine allgemein gültige Antwort darauf, wann eine Grenze überschritten wird. Auch wenn es in einigen Ländern Gesetze gegen Hassrede gibt, so unterscheiden sich die jeweiligen Definitionen von Hassrede erheblich. In Deutschland beispielsweise verbietet das Gesetz Volksverhetzung. Das bedeutet, dass polizeiliche Ermittlungen eingeleitet werden können, wenn man volksverhetzende Inhalte online postet. In den USA hingegen reicht der Schutz der Meinungsfreiheit teilweise weiter.

Entfernung von Hassrede
Zusammen mit anderen Plattformen haben wir beim Umgang mit Hassrede große Fortschritte erzielt, was auch durch unabhängige Testergebnisse im Auftrag der Europäischen Kommission bestätigt wird. Die Untersuchungsergebnisse für Facebook in Deutschland zeigen, dass wir 87% der Inhalte, die uns durch die Freiwillige Selbstkontrolle Multimediadienste (FSM) und Jugendschutz.net gemeldet wurden, entfernt haben. Diese Ergebnisse dokumentieren und untermauern unserer Meinung nach die signifikanten Fortschritte bei der Bekämpfung von Hassrede. Die positive Entwicklung ist auch auf die Arbeit innerhalb der Arbeitsgruppen des Bundesjustizministeriums und der Europäischen Kommission zurückzuführen.

Im Sommer 2017 haben wir durchschnittlich 3.500 Posts pro Woche gelöscht, die in Deutschland als Hassrede gemeldet wurden. Dies bedeutet, dass wir in Deutschland monatlich ungefähr 15.000 Posts wegen Hassrede entfernt haben. *

Qualifizierte Prüfer
Facebook wurde durch die Bundesregierung aufgefordert, das notwendige Personal für die Prüfung der Inhalte auf dem deutschen Markt sicherzustellen. Allein in Deutschland sind bis Ende dieses Jahres mehr als 1.200 Mitarbeiter im Einsatz, die bei unseren Partnern Arvato und CCC in unserem Auftrag, unter Leitung unserer internationalen Zentrale in Dublin, Inhalte überprüfen. Sie sind Teil unseres global agierenden Community-Operations-Teams, in das wir kontinuierlich investieren. Wir haben im Verlauf dieses Jahres weltweit rund 3.000 Menschen eingestellt – zusätzlich zu den 4.500, die bereits in den Teams gearbeitet haben. Mitarbeiter im Community-Operations-Team verfügen über breite Sprachkenntnisse und arbeiten jeden Tag rund um die Uhr, um gemeldete Beiträge zu überprüfen.

Kontinuierliche Verbesserungen
In unseren Bemühungen werden wir auch weiterhin auf Technologien als wichtigen Bestandteil für Verbesserungen im Umgang mit Hassrede setzen. Wir experimentieren zum Beispiel mit Möglichkeiten, wie die offensichtlichsten Beleidigungen in Kommentaren herausgefiltert werden können, damit sie in den Beiträgen verborgen werden. Wir beabsichtigen auch weiterhin in diese vielversprechenden Ansätze zu investieren. Bis künstliche Intelligenz und maschinelles Lernen die Komplexität bei der Beurteilung von Hassrede bewältigen können, ist es jedoch noch ein langer Weg. Aus diesem Grund sind wir auf unsere Community angewiesen, potenzielle Hassrede zu erkennen und zu melden. Noch gibt es kein perfektes Tool, das in der Lage wäre, Kontext, Bedeutung und die Intention gemeldeter Beiträge ausreichend zu erfassen und die oftmals feine Linie zwischen ausdrucksstarker Meinung und unzumutbarer Hassrede zuverlässig unterscheiden zu können.

Was wird neu mit dem “Netzwerkdurchsetzungsgesetz”?
Wir teilen das Ziel der Bundesregierung, Hassrede zu bekämpfen und haben bei der Entfernung illegaler Inhalte bereits erhebliche Fortschritte erzielt. Das Netzwerkdurchsetzungsgesetz (NetzDG) ist eine grundsätzliche Neuerung, die weltweit einzigartig ist und für alle Beteiligen in seiner Komplexität eine Herausforderung darstellt.

Unabhängig davon arbeiten wir hart daran, den gesetzlichen Neuerungen zu entsprechen. Neben unseren Investitionen haben wir dabei insbesondere Anpassungen unserer internen Prozesse auf die ab 1. Januar 2018 geltenden Anforderungen des NetzDG vorgenommen. So haben wir unsere Mitarbeiter in den für Deutschland zuständigen Teams geschult, um gemeldete Inhalte entsprechend der gesetzlichen Bestimmungen bearbeiten zu können.

Ab Januar 2018 wird es jedem in Deutschland ermöglicht, Inhalte entsprechend des NetzDG zu melden. Dafür stellen wir ein gesondertes Formular zu Verfügung, welches einerseits den gesetzlichen Anforderungen entspricht und andererseits trotz der Komplexität ein einfaches Ausfüllen ermöglicht. Aufgrund der Bestimmungen des NetzDG haben wir uns dafür entschieden, ein an das Gesetz angepasstes Meldeformular anzubieten, das von unserem üblichen, an unsere Gemeinschaftsstandards angelehnten Meldeprozess getrennt ist. Damit wollen wir größtmögliche Transparenz herstellen und allen Menschen – unabhängig davon, ob sie auf unserer Plattform angemeldet sind oder nicht – ein bewusstes und informiertes Melden von Inhalten entsprechend des NetzDG ermöglichen.

*NB: Diese Informationen illustrieren unsere Arbeit, es gibt jedoch einige wichtige Vorbehalte. So kann es z.B. sein, dass Posts wegen Hassrede gemeldet wurden, jedoch aus anderen Gründen gelöscht wurden. Umgekehrt kann es vorkommen, dass Posts wegen Hassrede gelöscht wurden, jedoch aus anderen Gründen gemeldet wurden. Unsere Daten können im Laufe der Zeit variieren, da sich die Wirksamkeit unserer Messungen sowie die Kategorisierung verbessern.