Lista de comprobación de la evaluación de herramientas de IA para profesores canadienses

La IA en la educación

Las herramientas de inteligencia artificial (IA) se utilizan cada vez más en entornos educativos para todo, desde la planificación de las clases hasta la evaluación del trabajo de los alumnos. Aunque estas herramientas ofrecen comodidad e innovación, también plantean problemas de privacidad y seguridad que los educadores deben tener muy en cuenta antes de utilizarlas.

¿Por qué evaluar las herramientas de IA?

A diferencia de las herramientas tradicionales de aula, las tecnologías de IA dependen en gran medida de los datos, que a menudo se recopilan, almacenan y, en ocasiones, se utilizan para entrenar modelos de IA. Cuando estos datos incluyen información sensible o personal, como los nombres o las calificaciones de los estudiantes, se introducen riesgos que pueden comprometer la privacidad de los estudiantes o incluso violar las leyes canadienses sobre privacidad, como la LPRPDE o la FIPPA.

knowledgeflow-tipsheet-ai-tool-evaluation-checklist

Consulte la lista de comprobación completa

Con esta lista de control estará dando un paso adelante en el fomento de un entorno de aprendizaje seguro e innovador para sus alumnos.

Descargar aquí

Cuestiones de privacidad y seguridad

Estas preguntas se aplican a todas las herramientas y deben ser los primeros criterios evaluados.

Criterios	Considere la posibilidad de utilizar	Necesita aclaración	No recomendado
Política de privacidad establece claramente lo que los datos se recogen y almacenado.	Sí	Necesita más información	Sin política de privacidad
Los datos introducidos no se utilizan para entrenar modelos de IA.	Confirmado	Poco claro o ambiguo	Se utiliza explícitamente para modelos de trenes
Los datos están encriptados durante la transmisión (por ejemplo, de extremo a extremo).	Confirmado	Requiere confirmación	Sin encriptación
Se requieren datos personales mínimos o ninguno para su uso.	Sí	Requiere datos limitados	Requiere datos personales significativos
El proveedor especifica el lugar de almacenamiento de los datos (por ejemplo, Canadá).	Claramente establecido	No especificado	Ubicación desconocida o problemática
Cumple la legislación canadiense sobre privacidad (PIPEDA, FIPPA, etc.).	Confirmado	Requiere revisión	Probable incumplimiento
¿Recoge la herramienta datos sobre el usuario (por ejemplo, dirección IP, patrones de uso, comportamiento del usuario)?	No se recogen datos sensibles	Política poco clara	La recogida de datos es amplia o intrusiva
¿Hay transparencia sobre cómo se utilizan y almacenan los datos de los usuarios?	Sí	Necesita más aclaraciones	Sin transparencia

Casos prácticos

Para las herramientas de IA en la educación, es crucial comprender y gestionar estos riesgos. Los profesores deben asegurarse de que cualquier herramienta de IA o chatbot que se utilice en el aula respete las leyes de privacidad y recopile solo los datos mínimos necesarios para el fin previsto. Echa un vistazo a estos casos prácticos a continuación.

A. Utilización de herramientas de IA con los alumnos

	Considere la posibilidad de utilizar	Necesita aclaración	No recomendado
Puede utilizarse sin necesidad de cuentas de estudiante ni datos personales.	Sí	Algo personal datos necesarios	Cuentas completas o información sensible requerida
Ofrece contenidos adecuados a la edad, inclusivos e imparciales.	Sí	Requiere revisión de contenidos	Contenido inapropiado o tendencioso
El uso puede controlarse para evitar usos indebidos.	Sí	Opciones de supervisión parcial	Sin herramientas de supervisión

B. Planificación de las clases

	Considere la posibilidad de utilizar	Necesita aclaración	No recomendado
Genera contenidos precisos y pertinentes.	Sí	Verificar la calidad de salida	Produce material inexacto o irrelevante
Proporciona citas para los contenidos generados.	Sí	Citaciones incoherentes	No se facilitan citas
Puede utilizarse sin introducir datos personales sensibles.	Sí	Se requieren pocos datos sensibles	Se requieren datos sensibles significativos

C. Redacción de boletines de notas o utilización de los datos de los alumnos

	Considere la posibilidad de utilizar	Necesita aclaración	No recomendado
Cumple la legislación sobre privacidad (LPRPDE, LIPF).	Confirmado	Requiere vista	Probable incumplimiento
Acepta datos de estudiantes anonimizados o seudonimizados.	Sí	Anonimización limitada	Sin opción de anonimización
Ofrece opciones seguras para eliminar datos después de su uso.	Confirmado	Requiere borrado manual	Sin herramientas de borrado

D. Evaluación de los deberes de los alumnos

	Considere la posibilidad de utilizar	Necesita aclaración	No recomendado
Puede analizar los deberes sin almacenamiento de datos identificables información.	Confirmado	Política de almacenamiento poco clara	Almacena datos identificables
Proporciona comentarios justos, precisos y constructivos.	Sí	Necesita verificación manual	Información sesgada o inexacta
Se ajusta a las normas y prácticas de calificación.	Confirmado	Requiere ajustes	Salidas desalineadas

E. Creación de materiales para el aula

	Considere la posibilidad de utilizar	Necesita aclaración	No recomendado
Genera materiales adecuados a la edad y precisos.	Sí	Requiere verificación	Material inadecuado
El contenido es personalizable y editable para su uso en el aula.	Totalmente personalizable	Personalización limitada	Contenidos rígidos
Evita problemas de derechos de autor o propiedad intelectual.	Confirmado	Licencias poco claras	Violación de los derechos de autor

F. Uso ético e inclusivo

La evaluación de las herramientas de IA en la educación también requiere centrarse en consideraciones éticas y en la inclusión. Estas herramientas deben alinearse con los valores educativos establecidos y promover la equidad para todos los estudiantes y profesores.

	Considere la posibilidad de utilizar	Necesita aclaración	No recomendado
¿La herramienta aborda los posibles sesgos en su diseño y sus resultados?	Confirmado	Poco claro o no revisado	Pruebas de parcialidad o discriminación
¿Es la herramienta culturalmente sensible e incluye perspectivas diversas?	Sí	Requiere revisión	Excluye o margina a grupos
¿Favorece la herramienta la equidad en el acceso y la facilidad de uso para todos los estudiantes, incluidos los discapacitados?	Sí	Accesibilidad limitada	No accesible

G. Accesibilidad y usabilidad

Las herramientas de IA deben diseñarse teniendo en cuenta la accesibilidad y la facilidad de uso, garantizando que sean equitativas para los alumnos con necesidades diversas, incluidas las discapacidades o las barreras lingüísticas. Los profesores deben evaluar los siguientes criterios.

	Considere la posibilidad de utilizar	Necesita aclaración	No recomendado
¿Incluye la herramienta funciones de accesibilidad como lectores de pantalla o tamaños de letra ajustables?	Sí	Funciones limitadas	No accesible
¿Es la herramienta compatible con las tecnologías de apoyo que ya se utilizan?	Totalmente compatible	Compatibilidad parcial	No compatible
¿Ofrece la herramienta apoyo multilingüe a estudiantes y familias?	Sí	Idiomas limitados	Sin soporte multilingüe

H. Mejora continua y retroalimentación

Las herramientas de IA deben revisarse periódicamente para garantizar que siguen siendo eficaces y que se ajustan a los objetivos educativos. Los profesores, los alumnos y los administradores deben disponer de mecanismos para dar su opinión y contribuir a la evaluación continua de estas herramientas.

	Considere la posibilidad de utilizar	Necesita aclaración	No recomendado
¿Dispone la escuela o el distrito de un plan para evaluar el impacto a largo plazo de la herramienta?	Sí	Limitado opciones de respuesta	Sin mecanismo de retroalimentación
¿Existe un proceso de actualización y mejora periódicas de la herramienta?	Sí	Requiere revisión	Sin proceso de actualización
¿Proporciona la herramienta un mecanismo para que los usuarios den su opinión?	Sí	Requiere desarrollo	Sin plan de evaluación

Recordatorios clave para los profesores

Cada entrada es un dato

Comprenda que cualquier dato que usted o sus alumnos introduzcan en una herramienta de IA pasa a formar parte de la base de datos de dicha herramienta. Incluso datos aparentemente inofensivos, como un texto para planificar una clase, podrían ser recogidos y almacenados.

Manténgase alerta

Si la política de privacidad o las prácticas de datos de una herramienta no están claras, evite utilizarla hasta que se aclare.

Colaborar con TI/Administración

Usted no es el único que debe evaluar estas herramientas. Los equipos de TI y los administradores de los distritos escolares son recursos valiosos para evaluar la privacidad, la seguridad y el cumplimiento.

Recursos adicionales

Más información sobre cómo integrar nuestros recursos en su aula

Haga clic aquí