Unsere Sicherheitsteams koordinieren unsere unternehmensübergreifenden Maßnahmen, um böswillige Akteur*innen aufzuspüren und sie daran zu hindern, Menschen auf unserer Plattform zu schaden, sei es durch verdeckte Einflussnahme, gezielte Cyberspionageaktivitäten oder großangelegten Betrug bzw. Spam.
Wir haben erhebliche Fortschritte darin gemacht, die Aktivitäten dieser Netzwerke weltweit zu unterbinden und dabei ein tieferes Verständnis der verschiedenen Arten von Bedrohungen gewonnen. Diese gilt auch für solche, die von authentischen Nutzer*innen ausgehen. Wir haben auch Erfahrungen gesammelt, wie wir diesen Bedrohungen am besten begegnen können.
Am Anfang unserer Bemühungen stand die Bekämpfung nicht authentischer Aktivitäten auf Facebook, bei der Akteur*innen ihre tatsächliche Identität verschleiern. Allerdings gibt es auch authentische Akteur*innen auf unserer Plattform und im gesamten Internet, deren Verhalten zu gesellschaftlichem Schaden führen kann. In unserem jüngsten Bericht zur Bedrohungslage (Threat Report) weisen wir auf den Trend hin, dass gefährliche Akteur*innen aktiv die Grenzen zwischen authentischen und nicht authentischen Aktivitäten verwischen. Dies erschwert es uns und anderen Plattformen, aktiv gegen sie vorzugehen.
In den letzten Monaten haben wir gemeinsam mit Teams aus allen Unternehmensbereichen daran gearbeitet, unsere Maßnahmen im Kampf gegen bedrohliche Netzwerke auszuweiten. Das Ziel: effektiver gegen Bedrohungen vorgehen zu können, die von koordinierten Gruppen mit authentischen Konten ausgehen. Heute möchten wir über erste Maßnahmen gegen ein Netzwerk aus Konten, Seiten und Gruppen berichten, die von Personen betrieben werden, die mit der Querdenken-Bewegung in Deutschland in Verbindung stehen. Nachfolgend gehen wir näher auf unseren Ansatz und die Protokolle zur Durchsetzung ein, die wir zur Bekämpfung der koordinierten Versuche, der Gesellschaft Schaden zuzufügen, eingeführt haben.
Was bedeutet koordinierte Schädigung der Gesellschaft?
Koordinierte Kampagnen mit dem Ziel der Gesellschaft zu schaden, gehen in der Regel von Netzwerken aus, die hauptsächlich aus authentischen Nutzer*innen bestehen. Diese organisieren sich, um systematisch gegen unsere Richtlinien zu verstoßen und Schaden auf oder außerhalb unserer Plattform zu verursachen. Wir entfernen bereits regelmäßig Inhalte, die gegen unsere Gemeinschaftsstandards verstoßen – so z. B. Anstiftung zur Gewalt, Mobbing und Belästigung oder Falschinformationen, die zu gesundheitlichen Schäden führen können. Wir sind uns jedoch darüber im Klaren, dass diese Verstöße in manchen Fällen von einer gut organisierten Gruppe begangen werden, die gezielt und koordiniert danach strebt, das unzulässige Verhalten ihrer Mitglieder zu verstärken und wiederholt gegen unsere Gemeinschaftsstandards zu verstoßen. In diesen Fällen übersteigt das Gefahrenpotenzial, das durch die Gesamtheit der Aktivitäten des Netzwerks verursacht wird, die Auswirkungen jedes einzelnen Beitrags bei Weitem. Damit wir diese koordinierten Angriffe und Fehlverhalten besser bekämpfen können, haben wir Protokolle zur Durchsetzung entwickelt, die es uns ermöglichen, direkt gegen das zentrale Netzwerk aus beteiligten Konten, Seiten und Gruppen vorzugehen. Diese Regeln erlauben es uns, diverse Maßnahmen zu ergreifen, einschließlich der Reduzierung der Reichweite von Inhalten und der Deaktivierung von Seiten, Gruppen und Konten.
Maßnahmen gegen ein umfassendes Querdenken-Netzwerk in Deutschland
Wir haben ein Netzwerk von Facebook- und Instagram-Konten, -Seiten und -Gruppen entfernt, deren Mitglieder*innen in koordinierter Weise wiederholt gegen unsere Gemeinschaftsstandards verstoßen haben. Hierzu zählen die Veröffentlichung von gesundheitsbezogenen Falschinformationen, Hassrede und Anstiftung zur Gewalt. Die Inhalte bergen in der vorliegenden Form das Potenzial, in reale Gewalt umzuschlagen und auch in anderer Form gesellschaftlichen Schaden anzurichten. Außerdem haben wir Verlinkungen auf Domains der Querdenken-Bewegung von unserer Plattform entfernt. Dieses Netzwerk wurde von Personen betrieben, die mit der Querdenken-Bewegung in Deutschland in Verbindung stehen. Seit Mai 2021 haben wir eine erhebliche Zunahme der diesbezüglichen Aktivitäten beobachten können.
Die Personen, die hinter diesen Aktivitäten standen, nutzten authentische und teils mehrere Konten, um Inhalte einzustellen und zu verbreiten, die gegen unsere Gemeinschaftsstandards verstoßen. Dabei ging es in erster Linie darum, die Verschwörungstheorie der „Coronadiktatur“ zu verbreiten. Dieses Narrativ stellt die COVID-19-Beschränkungen der deutschen Regierung als Teil eines großangelegten Plans dar, um die Bürger*innen ihrer Freiheiten und Grundrechte zu berauben. Nach unseren Erkenntnissen erstreckten sich diese Aktivitäten über mehrere Internetdienste im gesamten Netz und stellten in der Regel Gewalt als probates Mittel dar, um die Maßnahmen der Regierung zur Einschränkung der persönlichen Freiheitsrechte im Namen der Pandemie zu kippen.
Dieses Netzwerk hat konsequent gegen unsere Gemeinschaftsstandards gegen gesundheitsschädliche Falschinformationen, Aufruf zur Gewalt, Mobbing, Belästigung und Hassrede verstoßen und wir sind wiederholt gegen entsprechende Beiträge vorgegangen. Wie aus den öffentlichen Medien bekannt ist, hat diese Gruppe in Deutschland reale Gewalt gegen Menschen ausgeübt, die im Journalismus, bei der Polizei oder im Gesundheitswesen in arbeiten.
Auch wenn wir Querdenken nicht grundsätzlich auf unserer Plattform verbieten, werden wir die Lage weiter beobachten und Maßnahmen ergreifen, sobald wir weitere Verstöße feststellen. Ziel unserer Maßnahmen ist es, die missbräuchliche Verwendung unserer Plattform zu unterbinden und die Menschen zu schützen, die unsere Dienste nutzen.
Indem wir unsere Erkenntnisse offenlegen, hoffen wir, die breite Öffentlichkeit auf diese Problematik und die damit einhergehende potenzielle Gefahr für die Gesellschaft aufmerksam zu machen. Darüber hinaus haben wir unsere Erkenntnisse anderen Plattformen, wissenschaftlichen Institutionen, Strafverfolgungsbehörden und politischen Akteur*innen zur Verfügung gestellt. Wir freuen uns über Rückmeldungen aus der Forschungs- und Fachwelt und werden weiter in die Arbeit gegen den Missbrauch unserer Plattform investieren und unsere Methoden fortlaufend verfeinern.