La menace de l'IA sur l'information

Avec l'avènement de l'IA et son accès grand public, la création de contenu n'a jamais été aussi rapide et facile. En effet, il est aujourd'hui possible de générer des textes, des images, des vidéos plus vrais que nature, créant un véritable brouillard dans l'Information en cas d'évènement majeur. La notion de désinformation est fréquemment introduite. Elle décrit l'utilisation des techniques de l'information de masse pour induire en erreur, cacher ou travestir les faits.

Le rôle de l’association FIRE CHASER est de lutter contre la désinformation. Dans le cadre de ses activités de veille opérationnelle sur les réseaux sociaux, elle constate une augmentation significative de l’usage d’images générées par intelligence artificielle. Certains les emploient pour illustrer leurs propos, tandis que d’autres cherchent avant tout à créer le buzz.

Désormais, l’intelligence artificielle et les services de génération d’images sont devenus suffisamment avancés pour constituer une véritable menace pour l’information.

Exemple de manipulation d'image avec l'intelligence artificielle. Voici un paysage du massif du Luberon dans le Vaucluse, en proie aux flammes de manière fictive.

Autre exemple de manipulation dans le parc des Calanques.

L'IA est un outil de tromperie de masse, produite à grande échelle. Elle révolutionne l'image et le rapport au réel. Pourtant, des outils existent pour essayer de repérer des images générées par IA mais les plateformes et logiciels présentent des limites importantes notamment pour les images retouchées. Par ailleurs, l'IA générative évolue très rapidement.

Vérification de l'image du Vaucluse par un vérificateur d'image. Celui-ci ne détermine pas que l'image a été générée par IA.

Pour faire face aux fausses images, l'association a déjà mis en place plusieurs pare-feu sur son application mobile pour vérifier les données techniques de l'image telle que la localisation et les données de contenus.

Cette année, l'association prévoit de sensibiliser ses bénévoles en charge du volet MSGU à reconnaitre et vérifier des images qui paraîtraient douteuses.