Les deepfakes et les vidéos truquées désormais interdits sur Facebook

[Digital Business Africa] – Facebook a annoncé ce lundi 6 janvier 2020 des mesures fortes pour combattre les deepfakes. L’entreprise a déclaré dans un communiqué qu’elle allait enquêter sur les comportements trompeurs dans les contenus générés artificiellement et en s’associant avec le milieu universitaire, politique et l’industrie du secteur pour mieux identifier le contenu truqué, nous informe BusinessInsider.

Les vidéos signalées seront soumises à un examen par des modérateurs tiers pour déterminer si le contenu est faux. À ce moment-là, Facebook « réduira considérablement sa diffusion » sur le fil ou rejettera la vidéo, si le compte tente de la diffuser sous forme de publicité. De plus, les personnes qui tentent de partager le contenu avant qu’il ne soit retiré du site recevront un avertissement pour les avertir que le contenu est faux.

La société a ajouté qu’elle avait établi un partenariat avec Reuters pour « aider les journalistes du monde entier à identifier les deepfakes et contenus truqués grâce à un cours de formation en ligne gratuit ». « Les entreprises de presse s’appuient de plus en plus sur des tierces parties pour de grands volumes d’images et de vidéos, et l’identification des visuels truqués est un défi important », a affirmé Facebook. « Ce programme vise à soutenir les rédactions qui essaient de faire ce travail. »

La société a défini le type de contenus qui serait retiré du site par le biais de deux critères :

• Le contenu a été édité ou condensé — au-delà des ajustements nécessaires pour plus de clarté ou de qualité — d’une manière qui n’est pas apparente pour une personne lambda et qui pourrait probablement induire en erreur en faisant croire qu’un sujet de la vidéo a dit des mots qu’il n’a pas vraiment prononcés.
• Il est un produit de l’intelligence artificielle ou du “machine learning” qui fusionne, remplace ou superpose du contenu sur une vidéo, lui donnant ainsi l’apparence d’être authentique.

Cette nouvelle politique de Facebook n’affectera toutefois pas les contenus qui sont truqués à des fins humoristiques ou parodiques, a déclaré la société.

Gaëlle Massang