L'IA dans l'éducation
Les outils d'intelligence artificielle (IA) sont de plus en plus utilisés dans les établissements d'enseignement, de la planification des cours à l'évaluation des travaux des élèves. Si ces outils sont pratiques et innovants, ils présentent également des défis uniques en matière de protection de la vie privée et de sécurité que les éducateurs doivent examiner attentivement avant de les utiliser.
Pourquoi évaluer les outils d'IA ?
Contrairement aux outils traditionnels utilisés en classe, les technologies d'IA s'appuient fortement sur des données - données qui sont souvent collectées, stockées et parfois utilisées pour former des modèles d'IA. Lorsque ces données comprennent des informations sensibles ou personnelles, telles que les noms ou les notes des élèves, elles présentent des risques qui peuvent compromettre la vie privée des élèves, voire enfreindre les lois canadiennes sur la protection de la vie privée, telles que la LPRPDE ou la LPRPDE.
Consultez la liste de contrôle complète
Avec cette liste de contrôle, vous faites un pas vers la création d'un environnement d'apprentissage sûr, sécurisé et innovant pour vos élèves.
Questions relatives à la vie privée et à la sécurité
Ces questions s'appliquent à tous les outils et devraient être les premiers critères évalués.
| Critères | Envisager d'utiliser | Besoin de clarification | Non recommandé |
| Politique de confidentialité énonce clairement ce que les données sont collectées et stockée. | Oui | Besoin de plus d'informations | Pas de politique de confidentialité |
| Les données saisies ne sont pas utilisées pour former des modèles d'intelligence artificielle. | Confirmé | Manque de clarté ou ambiguë | Utilisé explicitement pour modèles de trains |
| Les données sont cryptées pendant la transmission (par exemple, de bout en bout). | Confirmé | Exigences confirmation | Pas de cryptage |
| Peu ou pas de données personnelles requises pour l'utilisation. | Oui | Nécessite des données limitées | Nécessite des données personnelles importantes |
| Le fournisseur spécifie le lieu de stockage des données (par exemple, le Canada). | Clairement énoncé | Non spécifié | Lieu inconnu ou problématique |
| Conforme aux lois canadiennes sur la protection de la vie privée (PIPEDA, FIPPA, etc.). | Confirmé | Nécessite un examen | Probablement non conforme |
| L'outil recueille-t-il des données sur l'utilisateur (par exemple, son adresse IP, ses habitudes d'utilisation, son comportement) ? | Aucune donnée sensible n'est collectée | Politique peu claire | La collecte de données est extensive ou intrusive |
| Existe-t-il une transparence sur la manière dont les données des utilisateurs sont utilisées et stockées ? | Oui | Nécessité d'une clarification supplémentaire | Pas de transparence |
Scénarios d'utilisation
Pour les outils d'IA dans l'éducation, il est essentiel de comprendre et de gérer ces risques. Les enseignants doivent s'assurer que tout outil d'IA ou chatbot utilisé en classe respecte les lois sur la protection de la vie privée et ne collecte que le minimum de données nécessaires à l'objectif visé. Découvrez ces cas d'utilisation ci-dessous !
A. Utilisation des outils d'IA avec les élèves
| Envisager d'utiliser | Besoin de clarification | Non recommandé | |
| Peut être utilisé sans nécessiter de compte étudiant ou d'informations personnelles. | Oui | Quelques exemples personnels données requises | Comptes complets ou informations sensibles requises |
| Offre un contenu adapté à l'âge, inclusif et impartial. | Oui | Nécessite un examen du contenu | Contenu inapproprié ou partial |
| L'utilisation peut être contrôlée afin d'éviter les abus. | Oui | Options de surveillance partielle | Pas d'outils de suivi |
B. Planification des cours
| Envisager d'utiliser | Besoin de clarification | Non recommandé | |
| Génère un contenu précis et pertinent. | Oui | Vérifier la qualité de la production | Produire des documents inexacts ou non pertinents |
| Fournit des citations pour le contenu généré. | Oui | Citations incohérentes | Pas de citations fournies |
| Peut être utilisé sans téléchargement de données personnelles sensibles. | Oui | Peu de données sensibles requises | Importantes données sensibles requises |
C. Rédaction des bulletins scolaires ou utilisation des données relatives aux élèves
| Envisager d'utiliser | Besoin de clarification | Non recommandé | |
| Respect des lois sur la protection de la vie privée (PIPEDA, FIPPA). | Confirmé | Nécessite une vue | Probablement non conforme |
| Accepte les données anonymes ou pseudonymisées des étudiants. | Oui | Anonymisation limitée | Pas d'option d'anonymisation |
| Fournit des options sécurisées pour supprimer les données après utilisation. | Confirmé | Nécessite une suppression manuelle | Pas d'outils de suppression |
D. Évaluation des devoirs des élèves
| Envisager d'utiliser | Besoin de clarification | Non recommandé | |
| Peut analyser les devoirs sans stocker des données identifiables info. | Confirmé | Politique de stockage peu claire | Stocke des données identifiables |
| Fournit un retour d'information juste, précis et constructif. | Oui | Nécessite une vérification manuelle | Retour d'information biaisé ou inexact |
| S'aligne sur les normes et pratiques de notation. | Confirmé | Nécessite des ajustements | Sorties désalignées |
E. Création de matériel pédagogique
| Envisager d'utiliser | Besoin de clarification | Non recommandé | |
| Génère du matériel adapté à l'âge et précis. | Oui | Nécessite une vérification | Matériel inapproprié |
| Le contenu est personnalisable et modifiable pour une utilisation en classe. | Entièrement personnalisable | Personnalisation limitée | Des contenus rigides |
| Évite les problèmes de droits d'auteur ou de propriété intellectuelle. | Confirmé | Licences imprécises | Violation des droits d'auteur |
F. Utilisation éthique et inclusive
L'évaluation des outils d'IA dans le domaine de l'éducation doit également tenir compte des considérations éthiques et de l'inclusivité. Ces outils doivent s'aligner sur les valeurs éducatives établies et promouvoir l'équité pour tous les étudiants et enseignants.
| Envisager d'utiliser | Besoin de clarification | Non recommandé | |
| L'outil tient-il compte des biais potentiels dans sa conception et ses résultats ? | Confirmé | Manque de clarté ou absence d'examen | Preuve de partialité ou de discrimination |
| L'outil est-il sensible à la culture et tient-il compte des différentes perspectives ? | Oui | Nécessite un examen | Exclut ou marginalise des groupes |
| L'outil favorise-t-il l'équité en matière d'accès et d'utilisation pour tous les étudiants, y compris ceux qui sont handicapés ? | Oui | Accessibilité limitée | Non accessible |
G. Accessibilité et facilité d'utilisation
Les outils d'IA doivent être conçus en tenant compte de l'accessibilité et de la facilité d'utilisation, en veillant à ce qu'ils soient équitables pour les élèves ayant des besoins divers, y compris des handicaps ou des barrières linguistiques. Les enseignants doivent évaluer les critères suivants.
| Envisager d'utiliser | Besoin de clarification | Non recommandé | |
| L'outil comprend-il des fonctions d'accessibilité telles que des lecteurs d'écran ou des tailles de police réglables ? | Oui | Caractéristiques limitées | Non accessible |
| L'outil est-il compatible avec les technologies d'assistance déjà utilisées ? | Entièrement compatible | Compatibilité partielle | Non compatible |
| L'outil offre-t-il un soutien multilingue aux élèves et aux familles ? | Oui | Langues limitées | Pas de support multilingue |
H. Amélioration continue et retour d'information
Les outils d'IA devraient être régulièrement réexaminés pour s'assurer qu'ils restent efficaces et conformes aux objectifs éducatifs. Les enseignants, les étudiants et les administrateurs devraient disposer de mécanismes leur permettant de fournir un retour d'information et de contribuer à l'évaluation continue de ces outils.
| Envisager d'utiliser | Besoin de clarification | Non recommandé | |
| L'école ou le district dispose-t-il d'un plan pour évaluer l'impact à long terme de l'outil ? | Oui | Limitée options de retour d'information | Pas de mécanisme de retour d'information |
| Existe-t-il un processus de mise à jour et d'amélioration régulières de l'outil ? | Oui | Nécessite un examen | Pas de processus de mise à jour |
| L'outil prévoit-il un mécanisme de retour d'information de la part des utilisateurs ? | Oui | Nécessite un développement | Pas de plan d'évaluation |
Rappels clés pour les enseignants
Chaque entrée est une donnée
Comprenez que toutes les données que vous ou vos élèves introduisez dans un outil d'IA font partie de la base de données de cet outil. Même des données apparemment inoffensives, telles que du texte pour la planification d'un cours, peuvent être collectées et stockées.
Rester vigilant
Si la politique de confidentialité ou les pratiques en matière de données d'un outil ne sont pas claires, évitez de l'utiliser jusqu'à ce que vous obteniez des éclaircissements.
Collaborer avec le service informatique/administration
Vous n'êtes pas seul à évaluer ces outils. Les équipes informatiques et les administrateurs des districts scolaires sont des ressources précieuses pour évaluer la protection de la vie privée, la sécurité et la conformité.
English 
French 
Spanish 
Chinese 
Ukrainian