Contenu généré par l’IA : à quoi se fier ?

L’intelligence artificielle peut désormais produire des textes, des photos, des voix et des vidéos qui ont l’air et le son du réel. C’est utile pour la créativité, l’éducation et l’accessibilité, mais cela facilite aussi la création de faussetés convaincantes. La question clé n’est plus « cela a-t-il l’air vrai ? » mais « puis-je le confirmer ? »

Qu’est-ce qu’un contenu généré par l’IA ?

Un contenu généré par l’IA est un texte, une image, un son ou une vidéo créé ou fortement modifié par un système d’IA. Certains sont inoffensifs, comme une illustration numérique ou une légende traduite. D’autres sont trompeurs, comme une photo inventée d’un événement qui n’a jamais eu lieu ou une voix synthétique qui imite une personne réelle.

Pourquoi les contenus d’IA peuvent nous tromper

• Ils ont l’air professionnels. Une grammaire propre et des visuels soignés nous font faire plus confiance au contenu qu’il ne le mérite.
• Ils peuvent être produits à très grande échelle. Des milliers de publications peuvent être créées en quelques minutes.
• Les outils de texte d’IA peuvent affirmer des choses fausses avec assurance, y compris des faits, des citations ou des sources inventés. On parle parfois d’hallucination.
• Un contenu réel peut être rejeté comme faux. Quand on sait que les faux existent, une vidéo authentique peut être faussement étiquetée comme IA pour éviter d’avoir à rendre des comptes.

Signes à repérer, et leurs limites

Ces indices aident parfois, mais aucun n’est fiable à lui seul :

• Images : mains ou dents déformées, ombres incohérentes, texte illisible sur les panneaux, peau étrangement lisse, ou objets qui se fondent les uns dans les autres.
• Vidéo : mouvements des lèvres non naturels, scintillement autour du visage, ou voix qui ne correspond pas à la bouche.
• Texte : formulations génériques, aucune source réelle, ou références introuvables quand on les cherche.
• Audio : émotion plate, pauses étranges ou absence de bruits de fond.

À mesure que la technologie progresse, ces signes disparaîtront. C’est pourquoi la vérification doit s’appuyer sur les sources et le contexte, et pas seulement sur des indices visuels.

Une meilleure approche : vérifier la source, pas les pixels

• Trouvez l’origine. Où cela a-t-il été publié pour la première fois ? Une organisation ou un témoin crédible le confirme-t-il ?
• Cherchez des corroborations. Un événement réel a généralement plusieurs photos, rapports ou témoins indépendants.
• Vérifiez les métadonnées et les étiquettes. Certaines plateformes et certains outils ajoutent des étiquettes ou des justificatifs de contenu (content credentials) indiquant si une image a été modifiée ou générée. Leur absence ne prouve pas l’authenticité, mais leur présence est utile.
• Faites une recherche d’image inversée. Voyez si l’image est apparue plus tôt ou dans un autre contexte.
• Demandez à la personne. Si un ami partage quelque chose de surprenant, demandez-lui où il l’a trouvé.
• Vérifiez les citations. Si un article cite une personne, cherchez l’entretien ou la déclaration d’origine.

Utiliser les outils d’IA de façon responsable

• Considérez les réponses de l’IA comme un premier jet. Vérifiez les faits importants, les chiffres, les dates, les noms et les citations auprès de sources fiables.
• Ne demandez pas à l’IA de créer de fausses preuves, d’usurper l’identité de personnes réelles ou de rédiger des messages destinés à tromper autrui.
• Indiquez qu’une image ou un texte est généré par l’IA lorsque vous le partagez, surtout s’il pourrait être pris pour réel.
• Protégez votre vie privée. Évitez de coller des mots de passe, des pièces d’identité, des messages privés ou les données personnelles d’autres personnes dans des outils d’IA.
• Rappelez-vous que l’IA peut refléter les biais de ses données d’entraînement et traiter certains groupes de manière injuste. Remettez en question les réponses qui véhiculent des stéréotypes.

Un exemple réaliste

Une image spectaculaire montre une foule sur une place de ville entourée de fumée, publiée avec la légende « Urgent : la manifestation dégénère. » Elle semble réaliste. Vous cherchez des informations sur l’événement et ne trouvez rien. Une recherche d’image inversée ne montre aucune version antérieure. En regardant de plus près, les panneaux à l’arrière-plan contiennent des lettres illisibles. Vous décidez de ne pas la partager et vous expliquez pourquoi à l’expéditeur. Vous n’avez pas prouvé qu’elle est générée par l’IA, mais vous avez conclu à juste titre qu’elle n’est pas vérifiée.

Ce qu’enseigne l’approche de l’UNESCO

Le programme d’éducation aux médias et à l’information de l’UNESCO relie la littératie médiatique à des enjeux émergents tels que l’intelligence artificielle, la citoyenneté numérique et l’essor de la mésinformation. Le message est constant : un solide esprit critique est la meilleure défense à long terme.

À retenir

• « Ça a l’air vrai » n’est pas une preuve.
• Vérifiez l’origine et cherchez une confirmation indépendante.
• Utilisez l’IA comme assistant, pas comme autorité incontestable, et signalez les contenus générés par l’IA.
• Un contenu authentique peut aussi être faussement qualifié de faux, donc les preuves comptent dans les deux sens.