Un guide pratique

L'IA générative expliquée : Comprendre l'impact de la technologie et son potentiel de nuisance

Alors que la technologie de l'IA continue de progresser en 2025, nous sommes entrés dans une nouvelle génération d'outils et de contenus générés par l'IA et accessibles au public. Bien que vous ayez probablement entendu parler de l'IA générative ou que vous ayez pu la repérer dans votre flux de médias sociaux, vous la rencontrez probablement plus souvent que vous ne le pensez sur les médias sociaux, en naviguant sur internet et en consultant divers sites web. Bien que les outils d'IA accessibles au public ne soient pas dangereux en soi, il est de plus en plus difficile de distinguer le vrai contenu du faux. Les acteurs malveillants utilisent de plus en plus l'IA pour rendre les escroqueries plus convaincantes et plus humaines, ce qui augmente constamment les risques pour les internautes peu méfiants comme vous. L'importance de l'éducation à l'IA pour pratiquement toute personne en ligne est devenue plus cruciale que jamais.

Fausses personnes, vraies conséquences

ARTICLE D'ACTUALITÉ

CNN : Un employé du secteur financier verse $25 millions après un appel vidéo avec un faux "directeur financier".

Lire la suite

Au début de l'année 2024, une multinationale de Hong Kong a été victime d'une escroquerie sophistiquée par deepfake, perdant environ $25 millions USD. Un employé a été incité à transférer les fonds après avoir participé à une vidéoconférence au cours de laquelle des deepfakes d'IA générative ont été utilisés pour usurper l'identité de cadres supérieurs de l'entreprise. L'escroquerie était d'autant plus crédible que l'employé avait l'impression de participer à un appel de routine avec des collègues familiers, notamment des cadres et le PDG. En réalité, il était la seule personne réelle lors de l'appel, entouré à son insu d'imposteurs générés par l'IA qui l'ont incité à envoyer de l'argent. Il ne s'agit là que d'un exemple concret de l'utilisation abusive de cette technologie, qui montre à quel point les acteurs de la menace peuvent facilement tromper et causer des dommages réels grâce à cette technologie.

Qu'est-ce que l'intelligence artificielle (IA) ?

L'intelligence artificielle (IA) désigne la simulation de l'intelligence humaine par des machines, leur permettant d'effectuer des tâches telles que l'apprentissage, le raisonnement, la résolution de problèmes et la perception. L'une des principales catégories d'IA est IA générativeLes systèmes d'apprentissage en ligne, qui créent de nouveaux contenus, tels que des images, du texte, de la musique ou des vidéos, en apprenant à partir de vastes quantités de données existantes. Ces systèmes peuvent produire des résultats originaux qui imitent le travail humain, avec des outils populaires capables d'écrire des histoires, de générer des œuvres d'art, de réaliser de fausses vidéos réalistes et bien plus encore.

Les images générées par l'IA sont des images créées à l'aide de l'intelligence artificielle. Ces outils peuvent produire des photos réalistes, des œuvres d'art, des personnages animés ou des scènes entièrement fictives sans avoir besoin d'un appareil photo ou d'un artiste humain. Ils peuvent être utilisés à des fins créatives, mais peuvent également être détournés pour créer des images trompeuses ou fausses.

DeepFakes

  • Les "deepfakes" sont des vidéos ou des enregistrements audio très réalistes et manipulés, créés à l'aide d'une intelligence artificielle. Ils consistent souvent à superposer le visage d'une personne sur le corps d'une autre ou à modifier les voix et les actions pour donner l'impression qu'une personne dit ou fait quelque chose qu'elle n'a jamais fait en réalité. Cette technologie peut être utilisée pour induire en erreur, usurper une identité ou diffuser de fausses informations.

DeepNudes

  • DeepNudes fait référence à l'utilisation de l'IA pour créer ou manipuler des images afin de générer du contenu nu ou sexuellement explicite de personnes sans leur consentement. La technologie modifie les photos téléchargées pour y ajouter une nudité réaliste, ce qui soulève de sérieuses questions éthiques et juridiques concernant la vie privée, le consentement et le partage d'images non consensuel.

Les vidéos générées par l'IA sont des vidéos créées ou modifiées à l'aide de l'intelligence artificielle, plutôt qu'à l'aide de méthodes de tournage traditionnelles. Ces vidéos peuvent inclure des scènes entièrement synthétiques, des séquences modifiées (comme les deepfakes) ou des images améliorées produites par des algorithmes. L'IA peut générer des visages humains réalistes et des voix de personnes effectuant des actions spécifiques, animer des personnages, créer des scènes futuristes ou irréalistes, etc. Aujourd'hui, le public a accès à des générateurs de vidéos d'IA très avancés qui peuvent créer des vidéos entièrement synthétiques avec des voix et des caractéristiques humaines en quelques minutes seulement, à l'aide de simples invites.

Les générateurs de texte utilisent l'intelligence artificielle pour produire du contenu écrit sur la base des demandes de l'utilisateur. Vous tapez une question ou une demande et l'IA y répond rapidement, en s'appuyant sur ses données d'entraînement et sur l'internet pour générer la réponse la plus probable et la plus pertinente. Bien qu'ils puissent rédiger des articles de blog, répondre à des questions, expliquer des concepts ou aider à trouver des idées dans un langage clair et neutre, ces outils ne sont pas parfaits. Ils peuvent parfois produire des informations inexactes ou même inventer des faits, car ils s'appuient sur des modèles plutôt que sur des sources vérifiées.

  • Exemples: ChatGPT, Google Gemini, Microsoft Copilot

L'Internet en ébullition : Lancement du générateur de vidéos Veo 3 de Google

Le dernier outil d'IA à faire les gros titres est Veo 3 de Google, un puissant générateur de vidéos qui crée des clips réalistes de 8 secondes avec des voix humaines, des effets sonores et des portraits réalistes. Disponible pour plus de $250/mois, cet outil est accessible à tous.

Lorsque les utilisateurs ont commencé à publier leurs créations, l'internet a réagi à la fois par l'admiration et l'inquiétude. Les gens craignent que cet outil d'IA générative avancé ne fasse plus de mal que de bien, en érodant la confiance dans les médias, en permettant une désinformation presque indétectable et en soulevant de graves problèmes éthiques, juridiques et créatifs.

Vidéo promotionnelle VEO 3 de Google : entièrement réalisée par l'IA
Capture d'écran 2025 06 03 113640
Jouer
Article de CBC

Peut-on encore distinguer ce qui est réel ? Une nouvelle technologie d'IA "troublante" facilite la création de vidéos ultra-réalistes

Lire la suite

Comment ces outils sont-ils utilisés ?

Vous êtes probablement déjà confronté à l'IA générative plus souvent que vous ne le pensez, même si vous ne la remarquez pas directement. Ces outils sont à l'origine d'un grand nombre de textes, d'images et de vidéos que vous voyez en ligne tous les jours. Ils sont largement utilisés dans les domaines du divertissement et du marketing, où les créateurs utilisent l'IA pour générer de la musique, des œuvres d'art, des vidéos, des messages en ligne et des histoires, ce qui permet de produire plus rapidement et plus facilement du contenu pour les médias sociaux, les sites web, les plateformes de diffusion en continu et les jeux vidéo. Les spécialistes du marketing utilisent l'IA pour concevoir des publicités personnalisées, rédiger des descriptions de produits et créer des visuels qui attirent l'attention et suscitent l'intérêt des internautes sur toutes les plateformes.
Article de Forbes.com : Personnalisation et contexte : Le rôle croissant de l'IA dans la publicité

Dans le même temps, l'IA générative est utilisée à mauvais escient. Les fausses informations peuvent se propager plus facilement grâce à des articles d'actualité falsifiés générés par l'IA, à des vidéos "deepfake" ou à des images trompeuses qui semblent très réalistes. Les escrocs utilisent l'IA pour créer de fausses identités, cloner des voix et rédiger des messages convaincants qui incitent les gens à partager des informations personnelles ou à envoyer de l'argent. En raison de l'apparence et de la sonorité très réalistes du contenu, il peut être difficile pour les utilisateurs peu méfiants de faire la distinction entre un contenu authentique et un contenu créé artificiellement.

Statistiques

Selon le Centre pour les services financiers de Deloitte, l'IA générative permettra de $40 milliards d'euros de pertes d'ici 2027, contre $12,3 milliards en 2023. Cela représente un taux de croissance annuel composé de 32%.

Les méfaits de l'IA générative

Naviguez dans le menu déroulant pour en savoir plus sur les différents dommages causés par l'IA générative.

Il existe d'innombrables escroqueries destinées à commettre des fraudes financières et des vols, et l'IA générative permet aux escrocs de créer encore plus facilement des scénarios convaincants, de fausses publicités, de faux produits, des usurpations d'identité et des stratagèmes de hameçonnage.

Clonage vocal et usurpation d'identité escroqueries téléphoniques

  • Les appels frauduleux ne sont pas nouveaux, mais l'IA les rend de plus en plus réalistes. Au lieu des voix robotiques ou des voix de centres d'appels étrangers que les gens avaient l'habitude de reconnaître comme des escroqueries, ces appels utilisent maintenant des voix générées par l'IA qui semblent plus naturelles, plus amicales et plus familières. Les escrocs n'ont pas besoin de cloner votre voix exacte pour tromper quelqu'un ; ils ont besoin d'une voix qui semble suffisamment crédible. Ils peuvent appeler en se faisant passer pour vous en cas d'urgence, en disant que vous avez eu un accident ou que vous avez besoin d'aide, et demander à vos proches d'envoyer de l'argent. Comme la voix semble humaine et convaincante, les gens sont plus susceptibles d'être trompés. L'escroquerie elle-même n'a pas beaucoup changé, mais l'IA la rend beaucoup plus difficile à repérer.

    Avec les progrès de la technologie du clonage vocal, on craint de plus en plus que les escrocs ne commencent à cibler plus directement les particuliers, en reproduisant leur voix pour se faire passer pour eux lors d'appels à des amis ou à des membres de leur famille. Il est donc de plus en plus important de protéger ses données vocales et d'éviter les méthodes d'authentification basées sur la voix. L'IA étant désormais capable de générer des voix très réalistes, les systèmes de sécurité à commande vocale deviennent plus faciles à manipuler. Cela affaiblit leur efficacité et augmente le risque d'exposition des informations personnelles.

Les publicités sur l'IA qui mènent à de faux produits ou de fausses opportunités en matière d'IA

  • Alors que les publicités en ligne aident les entreprises légitimes à attirer des clients, les escrocs utilisent également l'IA générative pour créer de fausses publicités convaincantes. Celles-ci mènent souvent à des sites web malveillants vendant de faux produits ou services, ou vous mettent en contact avec des escrocs se faisant passer pour de vraies entreprises. Par exemple, une fausse annonce d'emploi peut vous diriger vers un faux responsable du recrutement qui vous "embauche" et vous demande vos coordonnées bancaires, puis les utilise à des fins frauduleuses.
  • De fausses annonces de produits peuvent renvoyer à un site d'apparence professionnelle sur lequel vous communiquez à votre insu vos données financières lors de l'achat. L'IA peut rapidement générer des publicités, des sites web et des produits réalistes, ce qui permet aux escroqueries de se propager rapidement. Les plateformes légitimes ont souvent du mal à les supprimer à temps.

Hameçonnage et ingénierie sociale

  • Grâce à l'ingénierie sociale, les escrocs peuvent désormais créer des courriels personnalisés très détaillés avec l'aide de l'intelligence artificielle. Ces messages sont conçus pour donner l'impression qu'ils proviennent d'une source fiable, telle qu'un PDG, un collègue ou un partenaire commercial, et demandent souvent des transferts d'argent, des paiements de factures ou des informations financières sensibles. Parce que ces courriels semblent si authentiques, ils exploitent la confiance et la psychologie humaines, incitant les gens à envoyer de l'argent à des escrocs qu'ils croient être des personnes légitimes.

Si la sextorsion et les escroqueries à la romance ne sont pas nouvelles, l'IA générative les rend plus convaincantes et plus faciles à mettre à l'échelle. Les escrocs utilisent désormais des outils d'IA générative et des chatbots pour automatiser les messages, créer de faux profils et instaurer la confiance plus rapidement que jamais.

  • Sextorsion consiste à tromper ou à contraindre quelqu'un à partager des images ou des vidéos intimes, puis à le menacer de les divulguer s'il n'est pas payé. Il suffit d'une photo pour qu'un escroc utilise l'IA générative pour créer des images ou des vidéos explicites fausses mais réalistes. Les victimes font ensuite l'objet d'un chantage avec ces "deepfakes" et sont poussées à payer de peur que leurs amis, leur famille ou leurs collègues voient ces images ou ces vidéos d'elles sans savoir qu'elles sont fausses.
  • Escroqueries au romantisme utilisent de fausses identités pour établir de fausses relations à des fins financières. Les profils générés par l'IA, avec des biographies convaincantes, des photos et même des messages vidéo ou vocaux, permettent aux escrocs de paraître plus facilement réels. Les chatbots programmés à des fins d'escroquerie à la romance peuvent répondre en temps réel, ce qui donne à l'interaction un caractère humain, mémorable et personnel. Une fois la confiance établie, les escrocs demandent de l'argent et peuvent continuer à en demander ou disparaître après l'avoir obtenu.
    Lire à ce sujet: Les escrocs en ligne pourraient avoir un nouvel allié : l'intelligence artificielle | CBC News

Les générateurs de texte à base d'IA peuvent parfois produire des informations biaisées ou fausses par accident, mais ils sont également utilisés intentionnellement pour diffuser de la désinformation. Certains sites web sont créés dans le seul but de publier de fausses histoires, de faire des adeptes et d'amener les gens à croire et à partager de fausses informations, souvent en tirant profit de l'attention ou en cherchant simplement à provoquer le chaos, la panique ou la confusion. Ces histoires vont d'articles inoffensifs sur la bonne humeur à des fausses nouvelles préjudiciables sur des personnalités publiques. Grâce à l'IA générative, ce type de contenu peut être généré et partagé en ligne en quelques minutes, alimentant ainsi un flux constant de désinformation sur les médias sociaux et le web.
Désinformation par l'IA dans un Canada démocratique: La lutte contre la désinformation induite par l'IA

Les personnalités publiques, notamment les politiciens, les présentateurs de journaux télévisés, les célébrités et les influenceurs, ont de nombreuses photos et vidéos en ligne, ce qui en fait des cibles faciles pour les deepfakes générés par l'IA. Si certaines sont clairement fausses et destinées à plaisanter, d'autres sont plus dangereuses, car elles mettent en scène des personnes qui soutiennent des produits frauduleux, font la promotion de sites dangereux ou diffusent de faux messages. Même si la personne sait qu'il s'agit d'un faux, d'autres peuvent l'ignorer, ce qui peut nuire gravement à sa réputation. Ces "deepfakes" ont été utilisés pour inciter les gens à faire des dons d'argent, à se laisser séduire par de faux systèmes de cryptage ou même à suivre des appels à l'action dangereux présentés comme émanant d'un leader de confiance.

Les contenus générés par l'IA deviennent de plus en plus convaincants, ce qui commence à éroder la confiance des gens dans ce qu'ils voient et entendent. Dans le passé, il était plus facile de repérer les faux contenus, mais aujourd'hui, avec des outils capables d'imiter au plus près le discours et les images d'un être humain, il est plus difficile de savoir ce qui est vrai. Cette incertitude croissante peut créer de la confusion et des doutes, non seulement sur le contenu lui-même, mais aussi sur les plateformes qui le partagent. Les gens peuvent commencer à remettre en question la fiabilité des médias sociaux, des organes d'information et du journalisme en général, car ils ne savent pas qui est réellement à l'origine de l'information et si celle-ci a été manipulée.

Une collection de messages sur les médias sociaux réalisés avec l'IA générative

Préjudice mineur : le gâchis de l'IA

L'internet est inondé de contenus bon marché, de qualité médiocre et à fort pouvoir d'attraction créés à l'aide de l'IA générative, souvent conçus pour capter l'attention, susciter l'émotion ou promouvoir un programme particulier. Avec l'essor de l'IA générative, les sites de désinformation prolifèrent sur l'internet. Ce type de contenu, qu'il soit créé par des influenceurs de bas niveau à la recherche de clics ou qu'il fasse partie de campagnes d'influence politique coordonnées, est désormais appelé "AI slop".

Il est facile à produire, se propage rapidement et contribue au bruit croissant en ligne, ce qui rend plus difficile la distinction entre les informations utiles et les contenus manipulateurs ou trompeurs générés et affichés par l'IA, ainsi que la différenciation entre les contenus créés par l'homme et les contenus générés par l'IA. Il est suggéré que la diffusion rapide de ces contenus est due à des robots programmés pour les diffuser, alors que des estimations suggèrent que les robots représentent désormais une grande partie du trafic internet.

À mesure que les outils d'IA générative s'améliorent pour imiter le comportement humain, il devient de plus en plus difficile de distinguer ce qui est réel de ce qui ne l'est pas. Bien que les entreprises de médias sociaux et les navigateurs prétendent lutter contre la diffusion rapide de ces contenus, en particulier ceux qui contiennent de la désinformation, ils continuent de se frayer un chemin dans les fils d'actualité des internautes bien plus qu'ils ne le devraient.

Comment utiliser l'IA générative en toute sécurité

L'IA générative peut être très utile et informative si elle est utilisée correctement et en toute sécurité. Voici quelques conseils pour l'utilisation de ces outils.

Limitez ce que vous partagez

Ne tapez ou ne téléchargez rien que vous ne voudriez pas voir rendu public.

  • Évitez les noms, les mots de passe, les numéros d'identification ou les histoires personnelles.
  • Ne téléchargez pas de photos si vous ne comprenez pas parfaitement comment l'outil traite les données.

Supposez que tout ce que vous saisissez peut être stocké ou examiné.

  • Même si l'outil indique qu'il est privé, le personnel de l'entreprise peut toujours examiner les échantillons à des fins de formation ou de modération.
  • Chaque fois qu'une entreprise possède vos données, elle est vulnérable aux violations de la vie privée et à l'exposition aux pirates informatiques.

Modifier les paramètres de confidentialité par défaut

Désactivez l'"historique des chats" ou les fonctions d'économie de données.

  • Exemple : Dans ChatGPT, allez dans Paramètres → Contrôle des données → Désactiver "Historique du chat et formation".
  • Dans Google Gemini, accédez à myaccount.google.com/activitycontrols → Web & App Activity → Désactiver la bascule pour arrêter l'enregistrement des chats → Gérer l'activité pour supprimer les anciens chats

Effacez régulièrement votre activité

  • Effacez vos messages-guides ou le contenu téléchargé, si cela est autorisé.

Utiliser des outils offrant une meilleure protection de la vie privée

Choisissez des outils d'IA qui traitent les données localement ou qui autorisent l'exclusion..

  • Utilisez des outils open-source ou des outils embarqués (comme des générateurs d'images ou des assistants).

Recherche de la politique de confidentialité de l'outil

  • Cherchez : "Ce que nous collectons", "Comment nous utilisons vos données" et "Puis-je me désinscrire de la formation ?".

Réfléchissez avant de cliquer, de poster ou de partager

Examinez le contenu généré par l'IA avant de le copier, de le coller ou de le partager.

  • Surtout s'il s'agit d'autres personnes, d'informations médicales et juridiques ou de sujets sensibles.
  • Faites appel à des vérificateurs de faits externes pour vous assurer que les informations sont correctes.

Ajouter une clause de non-responsabilité en cas d'utilisation de l'IA pour un contenu public

  • La mention "Cet article contient du contenu généré par l'IA" est un moyen simple de rester transparent et d'éviter les problèmes.

Maintenir une bonne hygiène numérique

  • Déconnectez-vous des outils d'intelligence artificielle après les avoir utilisés sur des appareils partagés.
  • Utilisez un mot de passe fort et unique, ainsi qu'un système de gestion des comptes (MFA) pour vos comptes AI.
  • Mettez régulièrement à jour les extensions de navigateur ou les plugins AI.

Rester informé

  • S'inscrire pour recevoir les mises à jour des outils d'IA ou les alertes sur la protection de la vie privée.
  • Suivez les sites d'actualités technologiques fiables pour vous tenir au courant des changements de politique ou des risques.

Conseils pour repérer les contenus d'IA générative

Images générées par l'IA

  • Zoom avantLe point de vue de l'utilisateur : rechercher des traits déformés, des lunettes fondues, des mains bizarres ou des objets flottants. 
  • Vérifier la symétrie et les proportionsL'IA générative de moindre qualité est souvent caractérisée par des doigts supplémentaires, des traits mal alignés ou des membres disproportionnés. 
  • Remarquez les textures : Les photos d'IA ont souvent un aspect aérographe, des arrière-plans bizarres ou des zones floues aléatoires. 

Vidéos générées par l'IA

  • Attention aux problèmes d'éclairageombres vacillantes ou sources lumineuses incohérentes ou imprécises
  • Mouvements ou langage corporel non naturelsles personnes qui ont un langage corporel rigide ou étrange, qui ne clignent pas des yeux ou qui font des gestes robotiques
  • Écouter attentivementLes problèmes liés à l'utilisation de l'Internet sont les suivants : rythme étrange, intonation bizarre ou bruits de fond qui n'ont pas de sens.

Comment éviter les escroqueries liées au clonage de la voix par l'IA générative :

  • Pause avant d'agir: Quel que soit le caractère convaincant d'un appel téléphonique ou d'un message vocal, raccrochez ou fermez le message si vous avez l'impression que quelque chose ne va pas. Appelez la personne qui prétend vous avoir appelé directement avec le numéro de téléphone que vous avez enregistré pour elle. Ne rappelez pas le numéro fourni par l'appelant ou l'identifiant de l'appelant. Posez des questions auxquelles il serait difficile à un imposteur de répondre correctement.
  • N'envoyez pas d'argent sous pression: Si votre interlocuteur vous demande d'urgence d'envoyer de l'argent par l'intermédiaire d'une application de paiement de portefeuille numérique ou d'une carte-cadeau, il s'agit peut-être d'un signal d'alarme pour une escroquerie. Si vous envoyez de l'argent à quelqu'un et que vous vous rendez compte par la suite qu'il s'agit d'une fraude, la police doit être alertée.
  • Sécurisez vos comptes: Que ce soit au travail ou à la maison, mettez en place une authentification multifactorielle pour les connexions aux messageries électroniques et les autres modifications des paramètres des messageries. Au travail, vérifiez les modifications apportées aux informations concernant les clients, les employés ou les fournisseurs.

Toujours...

  • Examinez le contenu de plus près
  • Assurez-vous de savoir à qui vous parlez
  • Faites attention à ce que vous publiez en ligne
  • Soyez prudent lorsque vous partagez des informations numériques avec qui que ce soit
  • Éviter de prendre des décisions financières sur la base de vidéos virales
  • Soyez sceptique à l'égard de tout ce que vous voyez sur l'internet
  • Utilisez des outils de détection de l'IA, tels que des outils de recherche d'images inversées, ou validez l'information sur un site de confiance.

Fiche conseil : Guide pratique de l'IA générative

generative-ai-resource-tipsheetTélécharger

Fiche conseil : Comment utiliser l'IA générative en toute sécurité

generative-ai-resource-tipsheet-safe-ai-useTélécharger
.
.

Ressources complémentaires

Ressources sur la sextorsion

Sensibilisation à l'escroquerie à la sextorsion : Ce que les adolescents doivent savoir
Cette escroquerie tue les enfants canadiens : la sextorsion
Guide complet sur la sextorsion : Soutenir une victime
Accueil - Cyberaide.ca

Ressources sur le contenu généré par l'IA

Images générées par l'IA - Quel est le problème et pourquoi s'en préoccuper ?
DeepNudes : Déshabiller le matériel d'abus d'images intimes généré par l'IA
Comment les outils vidéo d'IA peuvent être exploités pour créer des vidéos intimes non consensuelles générées par l'IA

Ressources pour les éducateurs

Liste de contrôle pour l'évaluation des outils d'IA pour les enseignants canadiens
Programme du cours Knowledgeflow AI
Education | Donner aux éducateurs les moyens d'agir et aux élèves les moyens de s'inspirer
Initiatives IA | Common Sense Media

Conditions d'utilisation

Nous nous réjouissons de la mise en commun de nos ressources et vous invitons à consulter nos Conditions d'utilisation. Ces lignes directrices sont conçues pour garantir que notre matériel est partagé de manière équitable, responsable et efficace afin de soutenir votre communauté. 

Lire les conditions d'utilisation