Imágenes generadas por IA: ¿cuál es el problema?

La aparición de imágenes generadas por inteligencia artificial plantea importantes retos para los jóvenes de hoy en día, ya que les afecta tanto como víctimas como autores involuntarios. Los adolescentes, que a menudo desconocen el alcance de las ramificaciones legales y éticas, pueden experimentar con estas tecnologías sin darse cuenta de que pueden causar daños duraderos. Estas creaciones digitales pueden acarrear graves consecuencias, como trastornos psicológicos para las personas retratadas sin su consentimiento y problemas legales para los creadores. Es imperativo educar a los adolescentes sobre la gravedad de generar y compartir este tipo de contenidos, destacando la importancia de la ética digital y el impacto en el mundo real de sus acciones en línea.

Definiciones:

Inteligencia Artificial Generativa es una subcategoría de la IA que puede producir creaciones completamente nuevas, como texto, imágenes o música.
DeepFakesson vídeos o grabaciones de audio muy realistas y manipulados, creados mediante inteligencia artificial y aprendizaje automático. Los DeepFakes suelen consistir en superponer la cara de una persona sobre el cuerpo de otra o manipular voces o acciones para que parezca que una persona está diciendo o haciendo algo que no está haciendo. Esta tecnología se ha utilizado con diversos fines, como la creación de noticias falsas, la difusión de información errónea y el entretenimiento.
DeepNudes: se refiere específicamente al uso de la IA para crear o manipular imágenes con el fin de generar contenidos de desnudos o sexualmente explícitos de personas sin su consentimiento. La tecnología detecta a la persona en una foto y luego altera la imagen para añadir desnudos, a menudo con resultados muy realistas. Los DeepNudes plantean importantes problemas éticos y jurídicos, en particular en relación con la privacidad, el consentimiento y la difusión no consentida de imágenes explícitas.

Ya les está pasando a los adolescentes canadienses

"Publicadas en Internet fotos falsas de chicas desnudas de un colegio de Winnipeg generadas por IA" - Yahoo Noticias

"Los niños piden más lecciones sobre AI tras los desnudos falsos publicados por estudiantes católicos de Londres" - CBC

¿Qué dice la ley sobre las imágenes generadas por ordenador?

Depende de la edad del sujeto. El Código Penal canadiense adopta un enfoque global para definir las imágenes sexuales con el fin de garantizar una amplia protección de los menores contra la explotación y los abusos, y no se limita a las imágenes reales de niños reales. También incluye las pseudofotografías o imágenes creadas o alteradas por cualquier medio, incluida la edición digital o la IA, para representar a menores en contextos sexuales. Dentro de la legislación canadiense vigente, existen otras leyes que también podrían aplicarse a la creación de este tipo de imágenes: Producción de material sobre abusos sexuales a menores, Acoso y temor por la seguridad, Distribución no consentida de imágenes íntimas, Comunicación indecente, Extorsión

Busque asesoramiento jurídico profesional si su hijo adolescente ha sido víctima de la creación de imágenes DeepNude o ha participado en la creación/compartición de dicho contenido. Si su hijo ha sido amenazado con la divulgación pública de imágenes reales o de DeepNude, consulte también nuestros recursos sobre concienciación sobre la extorsión sexual y cómo apoyar a una víctima de sextorsión.

Los adultos deben ser proactivos

Hay varias razones por las que los adolescentes pueden crear contenido DeepFake o DeepNude. Puede empezar como una "broma divertida" entre amigos o puede que hayan oído hablar de la tecnología y simplemente quieran probarla. Habla con tus hijos adolescentes sobre el impacto del uso de la tecnología para que entiendan que puede tener consecuencias reales a largo plazo para la víctima y también consecuencias legales y/o académicas para ellos: suspensión escolar, expulsión y cargos penales podrían ser el resultado. Enseñar a los adolescentes a utilizar la tecnología con respeto e integridad es esencial. Y lo que es aún más importante, asegúrese de que su hijo sepa que si es víctima de una imagen de DeepNude, usted le apoyará y, aunque pueda ser un momento estresante en su vida, existen recursos y medios para eliminar las imágenes si se han publicado en Internet. Es fundamental que los adolescentes sepan a quién acudir en busca de ayuda y cómo ponerse en contacto con los servicios de apoyo. Es posible que teman que sus padres o tutores se enfaden o se avergüencen, por lo que no lo denunciarán e intentarán solucionarlo por su cuenta: haz que se sientan lo más cómodos posible para pedir ayuda manteniendo conversaciones proactivas sobre este y otros temas difíciles como sextorsión y ciberacoso en sus múltiples formas, aunque el adolescente no le haya dicho que tiene un problema. Coloca en la nevera la lista descargable de recursos disponibles y la hoja de consejos, o imprime copias para que el adolescente las guarde, por ejemplo, en su habitación.