Images générées par l'IA - Quel est le problème ?

L'émergence d'images générées par l'IA pose des défis importants aux jeunes d'aujourd'hui, qu'ils soient victimes ou auteurs involontaires. Les adolescents, souvent inconscients de l'étendue des ramifications juridiques et éthiques, peuvent expérimenter ces technologies, sans se rendre compte des dommages durables qu'elles peuvent causer. Ces créations numériques peuvent avoir de graves conséquences, notamment une détresse psychologique pour les personnes représentées sans leur consentement et des problèmes juridiques pour les créateurs. Il est impératif d'éduquer les adolescents sur la gravité de la production et du partage de tels contenus, en soulignant l'importance de l'éthique numérique et l'impact réel de leurs actions en ligne.

Définitions :

Intelligence artificielle générative est une sous-catégorie de l'IA qui peut produire des créations totalement nouvelles, telles que du texte, des images ou de la musique.
DeepFakesLes DeepFakes sont des vidéos ou des enregistrements audio très réalistes et manipulés, créés à l'aide de l'intelligence artificielle et de l'apprentissage automatique. Les DeepFakes consistent généralement à superposer le visage d'une personne sur le corps d'une autre ou à manipuler les voix ou les actions pour donner l'impression qu'une personne dit ou fait quelque chose qu'elle ne fait pas. Cette technologie a été utilisée à diverses fins, notamment pour créer des fausses nouvelles, diffuser des informations erronées et dans le domaine du divertissement.
DeepNudesL'utilisation de l'IA pour créer ou manipuler des images afin de générer des contenus nus ou sexuellement explicites de personnes sans leur consentement. La technologie détecte la personne sur une photo et modifie ensuite l'image pour y ajouter de la nudité, souvent avec des résultats très réalistes. Les DeepNudes soulèvent d'importantes questions éthiques et juridiques, notamment en ce qui concerne la vie privée, le consentement et la diffusion non consensuelle d'images explicites.

C'est déjà le cas pour les adolescents canadiens

"De fausses photos de filles nues de l'école de Winnipeg, générées par l'intelligence artificielle, ont été mises en ligne" - Yahoo News

"Les enfants demandent plus de leçons sur l'IA après la publication de faux nus par des étudiants catholiques de Londres" - CBC

Que dit la loi sur les images générées par l'IA ?

Cela dépend de l'âge du sujet ! Le code pénal canadien adopte une approche globale de la définition de l'imagerie sexuelle afin d'assurer une protection étendue des mineurs contre l'exploitation et les abus, et ne se limite pas aux images réelles d'enfants. Il ne se limite pas aux images réelles d'enfants. Il inclut également les pseudo-photographies ou les images créées ou modifiées par quelque moyen que ce soit, y compris l'édition numérique ou l'IA, pour représenter des mineurs dans des contextes sexuels. Dans le cadre de la législation canadienne actuelle, il existe d'autres lois qui pourraient également s'appliquer à la création de telles images : Production de matériel pédopornographique, Harcèlement et crainte pour la sécurité, Diffusion non consensuelle d'images intimes, Communication indécente, Extorsion

Demandez conseil à un professionnel du droit si votre adolescent a été victime de la création d'images DeepNude ou a été impliqué dans la création ou le partage d'un tel contenu. Si votre enfant a été menacé par la publication d'images réelles ou d'images de nudité profonde, veuillez également consulter nos ressources sur les sujets suivants sensibilisation à la sextorsion et comment soutenir une victime de sextorsion.

Les adultes doivent être proactifs

Les adolescents peuvent créer des contenus DeepFake ou DeepNude pour un certain nombre de raisons. Il peut s'agir au départ d'une "plaisanterie" entre amis, ou peut-être ont-ils entendu parler de cette technologie et veulent-ils simplement l'essayer. Parlez à vos adolescents de l'impact de l'utilisation de cette technologie afin qu'ils comprennent qu'elle peut avoir des conséquences réelles à long terme pour la victime, ainsi que des conséquences juridiques et/ou académiques pour eux : suspension de l'école, expulsion et poursuites pénales peuvent en résulter. Il est essentiel d'apprendre aux adolescents à utiliser la technologie avec respect et intégrité. Plus important encore, assurez-vous que votre adolescent sait que s'il est victime d'une image de DeepNude, vous le soutiendrez et que, même s'il s'agit d'une période stressante de sa vie, il existe des ressources disponibles et des moyens de faire retirer les images si elles ont été publiées en ligne. Il est essentiel que les adolescents sachent vers qui se tourner pour obtenir de l'aide et comment contacter les services de soutien. Ils peuvent craindre que leurs parents ou tuteurs soient fâchés ou honteux, de sorte qu'ils ne signaleront pas l'incident et essaieront d'y faire face seuls. sextorsion et cyberintimidation sous ses nombreuses formes, même si l'adolescent ne vous a pas fait part de son problème. Gardez la liste téléchargeable des ressources disponibles et la fiche de conseils sur votre réfrigérateur, ou imprimez-en des copies que votre adolescent pourra garder dans sa chambre, par exemple.