Le fact-checking à l’ère de l’IA : comment les technologies changent la manière dont nous vérifions l’information

Avec l’explosion des réseaux sociaux et la facilité avec laquelle les informations se propagent en ligne, la vérification des faits est devenue une compétence de plus en plus importante pour les journalistes et les citoyens ordinaires.

L’avènement de l’intelligence artificielle (IA) a également ajouté une nouvelle dimension à cette tâche critique. Dans ce dossier, examinons comment le fact-checking évolue à l’ère de l’IA, en utilisant un exemple récent impliquant le président français Emmanuel Macron.

Le Monde en Crise : un exemple de fake news propagé grâce à l’IA

Le 30 mars 2023, une vidéo a été publiée sur Twitter, montrant Emmanuel Macron en tant qu’invité de l’émission « Le Monde en Crise« . Au cours de l’émission, des images du président français ont été utilisées pour faire planer un doute sur l’authenticité du contenu.

Cependant, il s’est rapidement avéré que tout était faux : l’émission n’a jamais existé et les extraits vidéos ont été créés à l’aide de l’IA.  La vidéo a été partagée des milliers de fois sur les réseaux sociaux, générant une vague de désinformation.

Tout est FAKE dans cette vidéo bien que l'émission a réellement existé, il est réalisé grâce au montage et avec l'IA

Désormais, vérifiez toujours vos sources quand vous avez un doute ! pic.twitter.com/q6ENzt7qqj

— Efy Saboutey (@efysaboutey) March 30, 2023

L’image swag du pape François générée par MidJourney

Une image générée par l’IA du pape François portant une élégante doudoune blanche partagée sur les réseaux sociaux au cours du week-end a amené des milliers d’utilisateurs à croire que c’était réel.

La fausse image, qui montre le pape portant un crucifix orné de bijoux et tenant ce qui semble être une tasse de café dans une main, a été publiée pour la première fois sur Reddit vendredi, intitulée « The Pope Drip », dans un sous-reddit appelé r/midjourney. Il a été généré par un programme d’intelligence artificielle appelé Midjourney.

Il a ensuite été diffusé sur des plateformes comme Twitter avec des messages recevant des centaines de milliers de likes et beaucoup pensant que c’était réel, y compris un certain nombre de célébrités et de personnalités des médias sociaux.

Le mannequin et personnalité de la télévision Chrissy Teigen, par exemple, a tweeté : « Je pensais que la doudoune du pape était réelle et je n’y ai pas réfléchi. Je ne survivrai pas à l’avenir de la technologie. »

Signes révélateurs d’une image AI

Henry Ajder, un expert en IA et présentateur qui siège au Conseil consultatif européen pour Meta’s Reality Labs, a déclaré à Insider que même si l’image du pape semble réaliste au premier abord, il y a des signes révélateurs qu’elle est fausse.

Il a dit que la main tenant la tasse de café semble être un « gâchis déformé » et semble avoir été « moulée ensemble ». Les lunettes du pape ne sont également « pas rendues correctement » car il y a une incohérence avec l’ombre sur le visage, a expliqué Ajder.

« L’une des choses qui devient notable avec la mise en œuvre de la version cinq de Midjourney est que beaucoup de ces images ont un [look] hyper-réaliste plastifié très distinctif, et cela ressemble à un filtre« , a-t-il ajouté en notant que ces facteurs peuvent changer à mesure que la plateforme se développe.

Ajder a déclaré que les progrès de Midjourney depuis sa création ont été « surprenants », car la société a déjà déployé sa cinquième version du programme , et a averti qu’elle pouvait créer de faux reportages très « convaincants » et des images de politiciens.

Il a souligné que les entreprises se trouvent dans un « environnement de course aux armements concurrentiel », dans le but d’être considérées comme des « premiers arrivés » et de « conquérir des parts de marché », ce qui peut entraîner la mise de côté des préoccupations concernant la sécurité ou l’éthique.

Le rôle de l’IA dans la vérification des faits

La diffusion de fausses informations n’est pas nouvelle, mais les technologies de l’IA ont considérablement amplifié leur impact. Les vidéos et les images générées par ordinateur peuvent être utilisées pour manipuler et tromper les gens, ce qui rend la tâche de vérification des faits plus difficile que jamais.

Cependant, l’IA peut également jouer un rôle important dans la lutte contre la désinformation. Les outils de fact-checking basés sur l’IA peuvent aider à identifier les fausses informations plus rapidement et plus efficacement que les humains seuls.

Par exemple, l’entreprise israélienne de technologie de l’IA, Deep Instinct, a développé un système de détection de faux contenus qui utilise l’apprentissage en profondeur pour analyser les images et les vidéos et identifier les anomalies qui pourraient indiquer un contenu falsifié.

La collaboration entre les humains et les machines est également importante pour la vérification des faits. Les humains peuvent fournir un contexte et une analyse critique, tandis que l’IA peut aider à traiter de grandes quantités de données. La combinaison de ces deux approches peut permettre de vérifier plus rapidement et plus précisément l’information.

C'est incroyable 😳, cette vidéo a été réalisée avec #chatgpt et #MidJjourney + Text-to-Video + Unreal Engine 4 🫥

🔥Credit~Adam Legend#Joker pic.twitter.com/RZLROl9vWQ

— Efy Saboutey (@efysaboutey) April 2, 2023

Le fact-checking est plus important que jamais

Alors que les technologies de l’IA continuent de se développer, le fact-checking reste une compétence critique pour les journalistes et les citoyens ordinaires. En fin de compte, c’est la responsabilité de chacun d’entre nous de s’assurer que l’information que nous partageons est vraie et exacte.

En utilisant des outils de vérification des faits basés sur l’IA et en travaillant ensemble pour examiner attentivement l’information que nous recevons, nous pouvons aider à lutter contre la désinformation et à maintenir la confiance dans les médias et les informations en ligne.