La menace des vidéos trafiquées. Deepfake.

Des logiciels gratuits permettent de remplacer un visage par un autre, faisant tenir à quelqu'un de faux propos... Intéressant le monde du spectacle, cette technologie ouvre aussi la voie à toutes les manipulations [1] et aux fausses informations.

« J'ai une grande nouvelle : aujourd'hui, nous avons éradiqué le sida. Dieu merci. Je m'en suis personnellement occupé » , assène Donald Trump lors d'un bref discours sur fond de drapeaux américains, diffusé cet automne 2019. Il aurait pu le dire... mais le locataire de la Maison Blanche n'a jamais prononcé ces mots. La vidéo est un fake (réalisé par Solidarité sida), et pas n'importe lequel :  un deepfake, c'est-à-dire un média (images et sons) généré ou modifié par un algorithme. En pratique, le deepfake consiste le plus souvent à transformer un visage en un autre... Et donc à faire dire ou faire faire n'importe quoi à n'importe qui. L'information est bien entendu trop belle pour être vraie. Et pour cause : cette vidéo est un faux, une opération de communication sur les réseaux sociaux lancée en octobre par l'ONG Solidarité Sida, qui affirme qu'elle pourrait devenir réalité si les chefs d'Etat le décidaient. [4]

Plus précisément, le deepfake, ou hypertrucage, est une technique de synthèse d'images basée sur l'intelligence artificielle. Le terme deepfake est un mot-valise formé à partir de deep learning (apprentissage profond) et de fake (faux). Cette technique peut être utilisée pour créer des infox (information et intoxication) et des canulars malveillants [2].

Dans le deepfake ci-dessus, les postures et le visage du président américain permettaient de deviner l'imposture. Mais pour combien de temps encore ? « Nous sommes déjà capables de générer des vidéos dont il est pratiquement impossible de savoir, à l'oeil nu, si le contenu est réel ou non », prévient Hao Li. 

Hao Li, chercheur allemand installé en Californie passe son temps en conférence, il a aussi monté sa start-up, Pinscreen, spécialisée dans la création sur ordinateur d'avatars photoréalistes. « Les deepfakes peuvent être utilisés pour répandre de fausses informations, et violer la vie privée des utilisateurs », s'inquiète le spécialiste, conscient des dérives possibles. 

En réalité, n'importe qui, aujourd'hui, avec du temps et quelques compétences informatiques, peut produire un deepfake de A à Z. « Il n'y a pas encore de logiciel tout-en-un qui s'installe sur Windows, mais on trouve facilement les codes en ligne, ainsi que des tutoriels », rappelle Sébastien Marcel, qui dirige une équipe de recherche sur la sécurité biométrique à l'IDIAP, un institut suisse indépendant [5]

Un autre échantillon spectaculaire, montrant l'incrustation de la voix et la bouche de Jordan Peele dans une vraie vidéo de Barack Obama. Cet exemple est un projet du cinéaste Jordan Peele et du PDG de BuzzFeed, Jonah Peretti  [3]

Le phénomène du deepfake a pris une très grande ampleur en quelques mois seulement depuis l’automne 2019, à tel point que certains Etats ont souhaité rapidement réguler l'utilisation de cette technologie.

Dès le 1^er Janvier 2020, la Chine va interdire et poursuivre en justice les utilisateurs postant ce type de vidéos et les plateformes les hébergeant. La Californie a déjà adopté une législation similaire mais uniquement pour les publicités politiques. Les Etats-Unis souhaitent légiférer avant le début de la campagne présidentielle de 2020.

Facebook et Twitter sont aussi à pied d'œuvre pour développer des outils qui permettent de détecter automatiquement ce type de vidéos et d'images et à les retirer le plus rapidement de leurs plateformes. [6]

Toutefois, certains militants et chercheurs mettent en garde contre une interdiction pure et simple des hypertrucages. Ils craignent qu’une loi donnant à des représentants du gouvernement le pouvoir de décider ce qui est vrai ou faux, puisse être utilisée pour censurer des opinions impopulaires ou dissidentes.

Plus généralement, Sam Gregory  (Co-Chair Partnership on AI Expert Group on societal influence),  nous met en garde contre les risques mais nous conseille aussi de ne pas céder au battage médiatique. 

« Il est bon de ne pas envisager le pire, mais de profiter de ce moment pour avoir une discussion rationnelle. L’effet le plus néfaste de ces contenus tient au fait qu’ils poussent les gens à tout remettre en question. » [3]

Pour les auditeurs du Cnam ayant accès à Europresse :

[1] Tual, Morgane avec Untersinger,Martin. La menace des vidéos trafiquées. Le Monde, mardi 26 novembre 2019. [En ligne via Europresse] : [consulté le 4 décembre 2019] https://nouveau-europresse-com.proxybib-pp.cnam.fr/Link/CNAM/news%c2%b720191126%c2%b7LM%c2%b7767747

Une version courte de l’article en libre accès :
[1bis] Tual, Morgane avec Untersinger,Martin. La menace des vidéos trafiquées. Le Monde, mardi 26 novembre 2019. [En ligne] : [consulté le 4 décembre 2019]
 https://www.lemonde.fr/pixels/article/2019/11/24/deepfakes-faut-il-avoir-peur-de-ces-videos-trafiquees_6020333_4408996.html

[2] Wikipedia. Deepfake.  Ref n°4 :  « Experts fear face swapping tech could start an international showdown » Jon,Christian, sur The Outline , 28 février 2018. [En ligne] : [consulté le 4 décembre 2019]  https://fr.wikipedia.org/wiki/Deepfake

[3] Gregory, Sam. Comment réagir face aux deepfakes. Internet Health Report 2019, Avril 2019. [En ligne] : [consulté le 4 décembre] https://internethealthreport.org/2019/comment-reagir-face-aux-deepfakes/?lang=fr

Pour les auditeurs du Cnam ayant accès à Europresse :

[4] Granja, Christelle. New fake et vieilles ficelles.... Libération, no. 11960, Cahier spécial, lundi 18 novembre 2019 [En ligne via Europresse] : [consulté le 4 décembre 2019] https://nouveau-europresse-com.proxybib-pp.cnam.fr/Link/CNAM/news%c2%b720191118%c2%b7LI%c2%b799b0da1a1e9c53b91806797d2d50d43b

Une version courte de l’article en libre accès :
[4bis] Granja, Christelle. New fake et vieilles ficelles.... Libération, no. 11960, Cahier spécial, lundi 18 novembre 2019 [En ligne] : [consulté le 4 décembre 2019]
https://www.liberation.fr/futurs/2019/11/17/new-fake-et-vieilles-ficelles_1763934

[5] Benjamin, Jérôme. Images virtuelles, vidéos truquées... Peut-on encore croire ce que l'on voit. Aujourd'hui en France (site web) ,Essentiel matin, vendredi 25 octobre 2019 [En ligne via Europresse] : [consulté le 4 décembre 2019] https://nouveau-europresse-com.proxybib-pp.cnam.fr/Link/CNAM/news%c2%b720191025%c2%b7PJW%c2%b78180148

[6] Grumiaux, Mathieu. La Chine interdira les deepfakes non-signalés dès le 1er janvier 2020. Clubic, 03 décembre 2019 [En ligne] : [consulté le 4 décembre 2019] https://www.clubic.com/technologies-d-avenir/intelligence-artificielle/actualite-878345-chine-interdira-deepfakes-signales-1er-2020.html

Lancement d’un nouveau réseau social : «WT:Social»

Jimmy Wales, le co-fondateur de Wikipedia, a annoncé sur Twitter le 6 novembre 2019 le lancement d’un nouveau réseau social : WT:Social. Le but de la plateforme est de lutter contre les fake news et les contenus de faible qualité diffusés sur les réseaux sociaux et les fils d'actualité. Contrairement à Facebook et à Twitter, il sera basé sur un modèle économique qui fonctionne seulement avec des dons et sans publicité. 

L’information est passée inaperçue le 6 novembre dernier dans un Tweet annonçant que le réseau comptait déjà 25.000 membres. Il faut dire que le concept n’est pas nouveau. Jimmy Wales avait déjà lancé en avril 2017 WikiTribune, un media collaboratif qui avait le même objectif : celui de lutter contre la désinformation. WikiTribune a licencié ses journalistes en 2018 par manque de trafic. WT:Social est donc une évolution de WikiTribune mais sous la forme d’un réseau social. Jimmy Wales compte y intégrer des spécificités de ce dernier comme de Wikipédia, notamment la modification des titres d’articles ou certains contenus ou même la possibilité de supprimer certaines publications par la communauté.

Quelles différences avec les réseaux existants ?

• WT:Social est une plateforme sociale avec un fil d’actualité qui référence les contenus par ordre antéchronologique, du plus récent au plus ancien et non par des algorithmes privilégiant le nombre de clics qu'ils ont générés. De cette manière le media interdit l’exploitation des données personnelles à des fins commerciales. Jimmy Wales considère en effet que Facebook, Twitter et d’autres réseaux, par leurs modèles économiques qui génèrent des revenus en fonction du temps passé sur leurs sites à cliquer et à regarder des publicités, favorisent les fake news et les informations de basse qualité. 

Le site Engadget signale en revanche qu’un système basé sur les « upvote » (1) serait introduit plus tard. Reste à voir si le fait d’introduire cette méthode qui permet aux internautes de signaler leur approbation ou leur soutien ne ressemblera pas finalement au « like » sur Facebook. D’autant plus qu’au final elle change l’ordre d’affichage des articles en fonction de critères propres aux internautes et non pas forcément liés à la qualité de l’information.

• La nouvelle plateforme adopte un modèle économique basé sur les dons et ne compte diffuser aucune publicité. Début décembre 2019, elle comptait déjà plus de 400 000 utilisateurs et compte atteindre des dizaines voire des centaines de millions. Actuellement, pour s’y inscrire et pour passer la liste d’attente due à la forte demande, il y a une possibilité de se faire inviter par un membre ou de payer un abonnement d’environ 100 dollars par an : une façon également de contribuer au financement du réseau.  « Oui, ça ressemble beaucoup à un abonnement payant, mais en échange, les utilisateurs ont la garantie de ne pas voir leurs données personnelles faire tourner la machine publicitaire ni un CEO mettre en péril la démocratie à coup de manipulation politique de masse. » précise-t-il (2).

                       Source : le site de la Communauté WT:Social

• N’ayant pas levé assez de fonds, l’interface est sobre avec un contenu basé sur un flux d’actualités et des commentaires postés par les utilisateurs. Mais le réseau compte lancer un appel à des futurs administrateurs et développeurs pour faire face à une croissance « vertigineuse ».

Dans sa bataille contre la désinformation, Jimmy Wales fait le pari d’une information qui circule librement avec son réseau social basé en partie sur le partage d'extraits ou de liens vers des articles. Sa position contre la directive européenne copyright instaurant des droits voisins sur les articles de presse se modère aujourd’hui et il promet que « ses administrateurs veilleront à ce que des articles entiers ou de larges extraits ne soient pas recopiés : nous respectons le copyright ». (3)

(1) FISHER Christine. Wikipedia co-founder wants to give you an alternative to Facebook and Twitter, publié le 14 novembre 2019. Disponible en ligne [consulté le 20/11/2019] : <https://www.engadget.com/2019-11-14-wtsocial-wikipedia-wales-facebook-alternative.html >

(2) RAHMIL, David-Julien. Le fondateur de Wikipédia lance un réseau social basé sur des dons, publié le 19 novembre 2019. Disponible en ligne [consulté le 25/11/2019] : <https://www.ladn.eu/media-mutants/reseaux-sociaux/wt-social-reseau-anti-facebook-payer-abonnes/>

(3) DEKONINK, Basile et MADELAINE, Nicolas. Jimmy Wales, le cofondateur de Wikipédia, lance une alternative à Facebook et Twitter, publié le 14 novembre 2019. Disponible en ligne [consulté le 20/11/2019] : <https://www.lesechos.fr/tech-medias/hightech/jimmy-wales-le-cofondateur-de-wikipedia-lance-une-alternative-a-facebook-et-twitter-1147849>

Proposition de Loi sur les "Fake News" : Nécessité impérieuse ou fausse bonne nouvelle ?

Le groupe majoritaire LREM (La République En Marche) déposera prochainement une proposition de Loi à l’Assemblée nationale, visant à freiner la diffusion de fausses informations par les plateformes numériques en périodes électorales, afin de garantir le bon déroulement du débat démocratique. L’ébauche des deux textes de la Loi de fiabilité et de confiance de l’information sont consultables ci-dessous. [1] La prolifération subite de cette terminologie même de "fake news" n’est-elle qu’un écran de fumée ? Légiférer peut-il endiguer le fléau de la désinformation ?

La manipulation de l’opinion par le biais d’informations mensongères, véhiculées sciemment par des responsables politiques, des entreprises ou des gouvernements ne constituent en rien une nouveauté de nos sociétés contemporaines. Tourya Guaaybess, Maître de conférences en Sciences de l'Information et de la Communication estime que le terme de fake news est parfois simplement utilisé comme une stratégie populiste, afin d'opérer une décrédibilisation du travail journalistique, elle invite plutôt à réfléchir aux moyens de faire face aux diverses formes de désinformation, qui sont bien réels. [2]

Pour contenir ce phénomène de la rumeur, existant depuis des temps immémoriaux, l’avocat Emmanuel Pierrat rappelle que l’arsenal juridique français est pourvu de la Loi du 29 juillet 1881 sur la liberté de la presse. Ainsi, l’article 27 stipule que La publication, la diffusion ou la reproduction, par quelque moyen que ce soit, de nouvelles fausses, de pièces fabriquées, falsifiées ou mensongèrement attribuées à des tiers lorsque, faite de mauvaise foi, elle aura troublé la paix publique, ou aura été susceptible de la troubler, sera punie d'une amende de 45 000 euros. Selon cet avocat : La liberté d’expression souffrirait une fois de plus de l’adoption d’un énième texte de censure. [3]

La circulation massive de l’information depuis le développement spectaculaire des échanges sur les réseaux sociaux ou les plateformes numériques, a induit le déferlement d’informations volontairement trompeuses à une échelle considérable. En effet, une récente étude du MIT (Massachusetts Institute of Technology), pointe qu’une fausse information a 70% de plus de chance d'être propagée. [4]

Antonio Casilli, professeur agrégé de sciences humaines numériques et sociologue indique que le renforcement de la loi existante serait vain si le Gouvernement ne prend pas en compte le modèle économique des GAFAM (Google, Apple, Facebook, Amazon et Microsoft). En effet, la diffusion de ce type d’information ne serait pas le fait d’internautes lambda. En réalité, c’est la régie publicitaire des GAFAM qui décide de la sélection de l’information erronée, elle monnaye ensuite les données personnelles de leurs utilisateurs et créée des incitations économiques qui favorisent les contenus sensationnalistes. Ce sont des pigistes-internautes vivants au Sud de la planète, pauvres et sous-rémunérés, les ouvriers du clic, qui sont chargés de la diffusion des rumeurs en masse. 

Avant de légiférer, le renouvellement des modèles économiques des médias sociaux serait donc prioritaire et hautement bénéfique, ainsi que la défense des droits des ouvriers du clic, afin qu’ils soient en mesure de refuser d’effectuer les basses besognes. Et Antonio Casilli de préciser : En 2015, Donald Trump aurait acheté près de 60% des fans de sa page Facebook aux Philippines, en Malaisie et… au Mexique. 

Le sociologue préconise également que les partis politiques eux-mêmes en périodes électorales cessent d’acheter des tweets, des "like" et des contenus viraux. [5]

Sources :

[1] REES Marc, Exclusif : téléchargez la future loi contre les fake news, Next INpact. 07 mars 2018 [en ligne], [consulté le 12/03/2018] https://www.nextinpact.com/news/106262-exclusif-telecharger-future-loi-contre-fakes-news.htm

[2] GUAAYBESS Tourya, "Fake news" : de l'instrumentalisation d'un terme à la mode ou les nouveaux visages du "Schmilblick", The Conversation. 11 février 2018 [en ligne], [consulté le 12/03/2018] https://theconversation.com/fake-news-de-linstrumentalisation-dun-terme-a-la-mode-ou-les-nouveaux-visages-du-schmilblick-91339

[3] PIERRAT Emmanuel, "Fake News" et liberté d'expression, Livres hebdo. 06 janvier 2018 [en ligne], [consulté le 12/03/2018] http://www.livreshebdo.fr/article/fake-news-et-liberte-dexpression

[4] LECOMTE Erwan, Les fake news se propagent bien plus rapidement que les informations, Sciences et avenir. 09/03/2018 [en ligne], [consulté le 12/03/2018] https://www.sciencesetavenir.fr/high-tech/reseaux-et-telecoms/sur-twitter-une-fake-news-a-70-de-chances-de-plus-d-etre-diffusee-qu-une-veritable-information_121917

[5] CASILLI Antonio, Une loi sur les fake news : à quoi bon ? Tribune dans l'Obs, Blog Casilli.fr. 02 mars 2018, [en ligne], [consulté le 12/03/2018] http://www.casilli.fr/2018/03/02/une-loi-sur-les-fake-news-a-quoi-bon-tribune-dans-lobs-1-mars-2018/

Fake news : initiatives et difficultés des réseaux sociaux

Les réseaux sociaux  sont un vecteur essentiel de la diffusion de l'information. Leur influence est grande par le nombre de leurs utilisateurs, et la rapidité à communiquer sur l'actualité.  Il est donc nécessaire de faire attention à la véracité des articles et de trouver des solutions afin de lutter contre les "Fake News".

On entend par "Fake News" de fausses informations, relayées sur les réseaux sociaux ou par certains médias. Il est, cependant, difficile de trouver une définition satisfaisante de ce terme [1].

De nombreuses initiatives ont cependant été prises par les médias sociaux pour lutter contre les "Fake News" : indicateurs de confiance, vérificateur des sources, outils de "fact-checking", afin de vérifier si l'information et sa source sont fiables,  etc...

Nelly Lesage [2] montre bien cette volonté de se donner les moyens  de vérifier les faits ("fact-checking") en intégrant "un outil de vérification des sources mis au point par un consortium de journalistes. Cet indicateur prend la forme d'une icône indiquant si la source de l'information est réputée fiable." Il doit permettre à l'utilisateur de faire remonter l'information qui lui semble douteuse.

Le cas de Facebook est intéressant, compte tenu des difficultés pour faire la chasse aux articles douteux et à la désinformation. Son compte Facebook "Journalism Project" est un exemple de sa volonté d'impliquer les médias traditionnels, pour faire évoluer les usages et lutter contre la désinformation. Cependant, l'article du Guardian [3], repris par Ina Global [4] met en avant, ses difficultés, son manque de transparence sur le fonctionnement des outils utilisés, leur limite, leur efficacité et la difficulté à faire totalement disparaître les informations virales et à freiner la diffusion de fausses informations. Problèmes soulignés aussi par  Sylvain Rolland [5] qui montre bien que, si ces outils permettent de s'attaquer à la désinformation, ils  ne résolvent pas tout pour autant, laissant encore passer quelques fausses information entre les mailles du filet.

Pour l'instant, les résultats sont peu probants mais la voie reste ouverte à l'amélioration des outils.

Sources :

[1] Roland Gauron, «Fake news», un même terme pour plusieurs réalités, Le Figaro.fr, Service Infographie, 6 mars 2017, http://www.lefigaro.fr/actualite-france/2017/03/06/01016-20170306ARTFIG00187-fake-news-un-meme-terme-pour-plusieurs-realites.php [Consulté le 23 novembre 2017]

[2] Nelly Lesage, "Google et Facebook lancent un « indicateur de confiance » contre les fake news", Numerama.com, 17 novembre 2017, http://www.numerama.com/tech/307104-google-et-facebook-adoptent-un-indicateur-de-confiance-contre-les-fake-news.html [consulté le 20 novembre 2017]

[3] Sam Levin, "Way too little, way too late': Facebook's factcheckers say effort is failing, The Guardian.com, 13 novembre 2017, https://www.theguardian.com/technology/2017/nov/13/way-too-little-way-too-late-facebooks-fact-checkers-say-effort-is-failing [consulté le 20 novembre 2017]

[4] Xavier Eutrope, "Zones d'ombre sur les initiatives de Facebook contre les fake news", Ina Global, Lu sur le web , 16 novembre 2017, http://www.inaglobal.fr/presse/lu-sur-le-web/zones-dombre-sur-les-initiatives-de-facebook-contre-les-fake-news [consulté le 20 novembre 2017]

[5] Sylvain Rolland,  "Facebook : derrière la communication, quelle efficacité contre les « fake news » ?, La Tribune.fr, 6 avril 2017, http://www.latribune.fr/technos-medias/facebook-derriere-la-communication-quelle-efficacite-contre-les-fake-news-680958.html [consulté le 20 novembre 2017]