Suite aux terribles attaques terroristes en Nouvelle-Zélande, nous avons réfléchi à ce que nous pouvions faire de plus pour réduire le risque que nos services ne soient utilisés pour causer du tort ou répandre la haine. Même si la majorité des personnes utilisent Facebook Live à des fins positives, les événements récents nous ont montré que cet outil peut être détourné de son usage et nous voulons prendre des mesures pour limiter ces abus.
Restreindre l’utilisation de Facebook Live pour protéger des abus
Jusqu’à aujourd’hui, si des personnes publiaient du contenu contraire à nos standards de la communauté – sur Facebook Live ou ailleurs sur notre plateforme – nous supprimions leurs contenus. S’ils continuaient de publier du contenu enfreignant nos standards, nous les empêchions d’utiliser Facebook pendant un certain temps. Dans certains cas, nous les excluions de notre plateforme, en raison de violations mineures répétées ou, dans des cas plus rares, en raison d’une unique violation flagrante.
Aujourd’hui, nous durcissons les règles spécifiques à Facebook Live, en appliquant une politique dite de « première infraction ». Ainsi, toute personne qui enfreindra nos politiques les plus sensibles se verra interdire l’utilisation de Facebook Live pour une période déterminée à compter de sa première infraction. Par exemple, quelqu’un qui partage un lien vers un communiqué d’un groupe terroriste sans élément de contexte se verra immédiatement interdire l’utilisation de Facebook Live pour une période déterminée.
Nous sommes conscients des antagonismes entre les personnes qui préféreraient un accès sans entrave à nos services et les restrictions nécessaires pour assurer la sécurité des utilisateurs sur Facebook. Notre objectif est de limiter les risques d’abus sur Facebook Live tout en permettant aux personnes d’utiliser ce service de manière positive chaque jour.
Investir dans la recherche sur les contenus manipulés
Par ailleurs, il est clair que s’attaquer à ces menaces nécessite des innovations techniques pour garder une longueur d’avance face à la manipulation de contenus que nous avons pu observer après Christchurch, lorsque certains utilisateurs ont modifié la vidéo après qu’elle ait été retirée afin d’éviter qu’elle ne soit détectée et pouvoir la publier à nouveau. Pour cela, il est nécessaire que l’industrie et le monde académique mènent des recherches fondamentales.
Ainsi, nous avons mis en place de nouveaux partenariats de recherche avec des chercheurs de premier rang de trois universités pour un total de 7,5 millions de dollars, destinés à améliorer les technologies d’analyse d’images et de vidéos.
Ce partenariat avec l’Université du Maryland, Cornell et l’Université de Californie, Berkeley est axé sur la recherche de nouvelles techniques et vise à :
- Détecter les manipulations de contenus (photos, vidéo et audio)
- Distinguer les publications involontaires de celles d’acteurs qui, au contraire, manipulent intentionnellement des vidéos et des photos.
Ce travail sera crucial dans le cadre d’efforts plus larges de notre part contre les contenus manipulés, y compris les DeepFakes. Nous espérons que cela nous aidera également à lutter plus efficacement contre les acteurs malveillants qui tentent de déjouer nos systèmes.
Il s’agit de questions complexes et nous travaillons dans un environnement fait d’oppositions et en constante évolution. Nous savons que ce n’est qu’en restant vigilants et en travaillant avec des experts, d’autres entreprises, des gouvernements et la société civile, partout dans le monde, que nous pourrons assurer la sécurité des personnes. Nous nous réjouissons de la perspective de poursuivre notre travail ensemble.