Imágenes generadas por IA: ¿Cuál es el problema?
El auge de las imágenes generadas por inteligencia artificial plantea grandes retos a los jóvenes de hoy, a los que afecta como víctimas y como autores involuntarios. Los adolescentes pueden experimentar con estas tecnologías, sin ser conscientes de las consecuencias legales y éticas, lo que puede provocar angustia psicológica a las personas representadas sin consentimiento y problemas legales a los creadores.
Es crucial educar a los adolescentes sobre las graves implicaciones de las imágenes generadas por IA y de compartir tales contenidos, haciendo hincapié en la ética digital y en el impacto en el mundo real de sus acciones en línea.
Más información sobre seguridad en Internet
Consulte nuestros cursos disponibles más abajo.
Definiciones
- Inteligencia Artificial Generativa es una subcategoría de la IA que puede producir creaciones completamente novedosas, como texto, imágenes o música.
- DeepFakes son vídeos o grabaciones de audio muy realistas y manipulados, creados mediante inteligencia artificial y aprendizaje automático. Los DeepFakes suelen consistir en superponer la cara de una persona sobre el cuerpo de otra o manipular voces o acciones para que parezca que una persona está diciendo o haciendo algo que no está haciendo. Esta tecnología se ha utilizado para diversos fines, como la creación de noticias falsas, la difusión de información errónea y el entretenimiento.
- DeepNudes se refiere específicamente al uso de la IA para crear o manipular imágenes con el fin de generar contenidos de desnudos o sexualmente explícitos de personas sin su consentimiento. La tecnología detecta a la persona en una foto y luego altera la imagen para añadir desnudos, a menudo con resultados muy realistas. Los DeepNudes plantean importantes problemas éticos y jurídicos, en particular en relación con la privacidad, el consentimiento y la difusión no consentida de imágenes explícitas.
¿Qué dice la ley sobre las imágenes generadas por ordenador?
Depende de la edad del sujeto.
El Código Penal canadiense ofrece una sólida protección a los menores contra la explotación, al abarcar no sólo las imágenes reales de niños, sino también las imágenes creadas o alteradas digitalmente, incluidas las realizadas con IA. Esto garantiza un enfoque amplio para prevenir y abordar las imágenes sexuales en las que intervienen menores, protegiéndolos contra diversas formas de abuso digital.
La legislación canadiense incluye normas adicionales que regulan la creación de este tipo de imágenes:
Producción de material sobre abusos sexuales a menores
Acoso y temor por la seguridad
Distribución no consentida de imágenes íntimas
Comunicación indecente
Extorsión
Buscar asesoramiento jurídico profesional si...
Tu hijo adolescente ha sido víctima de la creación de imágenes DeepNude o ha participado en la creación/compartición de dicho contenido.
Si su hijo ha sido amenazado con la divulgación pública de imágenes reales o de DeepNude, consulte también nuestros recursos sobre:
Concienciación sobre la sextorsión y Cómo apoyar a una víctima de sextorsión
Los adultos deben ser proactivos
Por qué los adolescentes pueden crear contenido DeepFake o DeepNude:
Los adolescentes pueden crear imágenes DeepFake o DeepNude por varias razones. Puede empezar como una "broma divertida" entre amigos o por curiosidad sobre las nuevas tecnologías.
Debatir el impacto:
Es fundamental que hables con tus hijos adolescentes sobre las consecuencias reales del uso de esta tecnología. Tienen que entender el impacto potencial a largo plazo sobre las víctimas y las graves repercusiones legales y académicas para ellos mismos, como la suspensión escolar, la expulsión o cargos penales.
Promover el respeto y la integridad:
Enseñe a sus hijos adolescentes a utilizar la tecnología con respeto e integridad. Haz hincapié en la importancia de un comportamiento responsable en Internet.
Apoyo a las víctimas:
Si tu hijo adolescente es víctima de las imágenes de DeepNude, asegúrale tu apoyo. Explícale que, aunque puede ser un momento difícil, hay recursos disponibles para ayudarle a eliminar las imágenes y servicios de apoyo a los que puede dirigirse.
Fomentar la comunicación abierta:
Asegúrese de que su hijo sabe a quién acudir en busca de ayuda y cómo ponerse en contacto con los servicios de apoyo. Facilítales la búsqueda de ayuda hablando de temas difíciles como la extorsión sexual y el ciberacoso de forma proactiva, aunque no hayan mencionado ningún problema.
Mantener los recursos accesibles:
Mantenga una lista de recursos disponibles y una hoja de consejos a la vista en casa, por ejemplo en la nevera, o proporcione copias impresas para que el adolescente las guarde en su habitación. Así les resultará más fácil acceder a la ayuda cuando la necesiten.
Más información sobre IA y DeepNudes
Consulte estos recursos creados por estimados colegas canadienses El Sombrerero Blanco:
https://thewhitehatter.ca/deepnudes-undressing-ai-generated-intimate-image-abuse-material/
https://thewhitehatter.ca/deepnudes-undressing-ai-generated-intimate-image-abuse-material/
https://thewhitehatter.ca/blog/alert-for-parents-caregivers-educators-and-law-enforcement-concerning-apps-utilizing-ai-pose-risks-to-youth-and-adults/
Recursos de ayuda
Cybertip: https://cybertip.ca/en/
KidsHelpPhone.ca: https://kidshelpphone.ca/
Acoso escolar en Canadá: https://www.bullyingcanada.ca/
NeedHelpNow.ca: https://needhelpnow.ca/en/
Centro Canadiense para la Protección de la Infancia: Recursos para las familias - protectchildren.ca
Nuestros recursos descargables
Hacer frente a los retos que plantean las imágenes generadas por IA requiere un esfuerzo conjunto de padres, educadores y comunidades. Manténgase informado, apoye a las personas afectadas y abogue por una educación integral en seguridad digital para crear un entorno en línea más seguro para nuestros hijos. Este recurso pretende capacitarle y guiarle para abordar y prevenir estos problemas de forma eficaz.
Información para adolescentes
Consejos para apoyar a una víctima
guía para directores y profesores
Recursos
Otras fichas de consejos
Explore nuestros recursos sobre ciberseguridad, protección de la intimidad y contenidos educativos adaptados a todo el mundo. Nuestra colección de hojas de consejos cubre temas esenciales de ciberseguridad, garantizando que los usuarios de todos los orígenes puedan navegar por el mundo digital de forma segura. Tanto si desea salvaguardar su información personal, conocer las mejores prácticas de privacidad o buscar recursos educativos, nuestra página le proporciona información práctica para mantenerse seguro en Internet. Sumérjase en nuestros recursos y mejore su resistencia digital hoy mismo.
English 
French 
Spanish 
Chinese 
Ukrainian