Déjà critiqué pour sa propension à propager les fake news, Twitter vient de s’emparer de l’épineuse question des deepfakes, ces sons, photos ou vidéos retouchés par une IA afin de tromper le public sur leurs sens. Car, au-delà de la problématique de leurs utilisations à des fins pornographiques, ces deepfakes présentent de risque réel de désinformation.
Pour l’heure, les Etats, et en particulier la France (ou même l’Union Européenne), n’ont pas encore proposé de législation encadrant et punissant les deepfakes. A l’exception notable de la Californie, qui a récemment mis en place un arsenal législatif sur le sujet.
L’émergence des deepfakes force les géants du net à se positionner
Mais la question devient brûlante, et force les géants du net et les réseaux sociaux à se positionner. En septembre, Facebook et Microsoft ont ainsi lancé un projet, appelé Deepfake Detection Challenge, qui offre des aides jusqu’à 10 millions de dollars à des chercheurs souhaitant développer des technologies permettant de détecter automatiquement les deepfakes. Google a également mis à disposition des chercheurs 3 000 vidéos manipulées par des IA, afin de les étudier.
Pour rappel, l’expression deepfake (contraction de « deep », pour « deep learning », technique d’apprentissage des intelligences artificielles (IA), et « fake », « faux ») désigne les contenus, audio, photo ou vidéo, qui ont été retouché par une IA pour en détourner le sens. Il s’agit, au final, d’une technique de retouche ou de montage très élaborée, et souvent invisible à l’oeil nu.
Deepfake : beaucoup de pornographie, mais aussi de la désinformation
Aujourd’hui 96% des vidéos labellisées « deepfake » sur le net sont de nature pornographique, ce qui pose de réels problèmes de protection de la vie privée et de l’image des personnes concernées, essentiellement des femmes : l’impact d’une telle vidéo sur la réputation d’une personne peut être désastreux, et provoquer des dégâts psychologiques catastrophiques.
Mais la question agite également les sites diffusant des informations, notamment les réseaux sociaux, et tout particulièrement Facebook et Twitter. La pornographie étant interdite sur ces sites, la désinformation et les fake news sont au cœur de la problématique. Une vidéo truquée peut servir de « preuve » à une fausse information, et largement aider à sa diffusion.
Twitter sollicite l’avis de ses utilisateurs sur la question
Et Twitter, au premier rang des accusés quand on évoque les propagateurs de fake news, se devait de réagir. Le réseau social a mis plusieurs mois à se positionner, mais a fini par faire face à l’émergence des deepfakes. Twitter a ainsi présenté, le lundi 11 novembre 2019, un plan de lutte contre la désinformation, qui contient un questionnaire sur la question des deepfakes, afin de recueillir l’avis de ses utilisateurs.
« Les tentatives délibérées d’induire les gens en erreur ou de semer la confusion par la manipulation des médias nuisent à l’intégrité de la conversation. C’est pourquoi nous avons récemment annoncé notre intention de solliciter l’avis du public sur une nouvelle règle visant les médias synthétiques et manipulés », a ainsi annoncé Twitter dans un billet de blog.
Des avertissements ou des liens vers des articles de fact checking
Pour faciliter cette lutte, le réseau social a proposé, pour commencer, une définition du deepfake, comme « toute photo, tout son ou toute vidéo qui a été modifié ou fabriqué de manière significative dans le but d’induire les gens en erreur ou de modifier sa signification originale ».
Twitter propose aussi que son algorithme détecte les comptes et les contenus soupçonnés de propager des médias « synthétiques ou manipulés », et avertisse les utilisateurs avant qu’ils n’aiment ou partagent ces tweets, en ajoutant un lien vers un article de fact-checking sur le contenu supposément manipulé.
Pourquoi Twitter ne supprimerait-il pas les tweets truqués ?
Comme souvent, si l’initiative doit être salué, elle pose des questions sur l’efficacité d’un tel contrôle. Si Twitter a les moyens d’identifier des vidéos soupçonnées d’être des deepfakes, pourquoi ne pas missionner des contrôleurs humains pour vérifier que le contenu est bien truqué (surtout s’il existe des articles analysant ledit trucage), et, dans ce cas, tout simplement supprimer le tweet ?
Sans doute parce que la propagation des fake news et donc des deepfakes est rentable pour Twitter (comme pour Facebook). D’où les pincettes multiples que prend le réseau social pour agir. Et la nécessité, sans doute, que les Etats s’emparent vraiment de cette question.