教育领域的人工智能
人工智能（AI）工具越来越多地应用于教育领域，从备课到评估学生作业，无所不包。这些工具在提供便利和创新的同时，也带来了独特的隐私和安全挑战，教育工作者在使用前必须慎重考虑。
为什么要评估人工智能工具？
与传统课堂工具不同，人工智能技术在很大程度上依赖于数据--数据通常被收集、存储，有时还被用于训练人工智能模型。当这些数据包括敏感或个人信息（如学生姓名或成绩）时，就会带来风险，损害学生隐私，甚至违反加拿大隐私法（如 PIPEDA 或 FIPPA）。
查看完整清单
有了这份清单，您就向为学生营造一个安全、可靠和创新的学习环境迈出了一步。
隐私和安全问题
这些问题适用于所有工具，应作为评估的首要标准。
| 标准 | 考虑使用 | 需要澄清 | 不推荐 |
| 隐私政策 明确指出 数据的收集和 已储存。 | 是 | 需要更多信息 | 无隐私政策 |
| 输入的数据不用于训练人工智能模型。 | 已确认 | 不明确或 含糊不清 | 明确用于 火车模型 |
| 数据已加密 传输期间 (如端到端）。 | 已确认 | 要求 证实 | 无加密 |
| 使用时只需极少或无需提供个人数据。 | 是 | 需要有限的数据 | 需要大量个人数据 |
| 供应商指定数据存储地点（如加拿大）。 | 明确说明 | 未说明 | 地点不明或有问题 |
| 遵守加拿大隐私法（PIPEDA、FIPPA 等）。 | 已确认 | 需要审查 | 可能不符合要求 |
| 工具是否收集用户数据（如 IP 地址、使用模式、用户行为）？ | 未收集敏感数据 | 政策不明确 | 数据收集范围广或具有侵扰性 |
| 用户数据的使用和存储方式是否透明？ | 是 | 需要进一步澄清 | 无透明度 |
用例场景
对于教育领域的人工智能工具来说，了解和管理这些风险至关重要。教师应确保课堂上使用的任何人工智能工具或聊天机器人都遵守隐私法，并且只收集其预期目的所需的最低限度的数据。请查看下面的使用案例！
A.与学生一起使用人工智能工具
| 考虑使用 | 需要澄清 | 不推荐 | |
| 无需学生账户或个人信息即可使用。 | 是 | 一些个人 所需数据 | 需要完整账户或敏感信息 |
| 提供适合不同年龄、具有包容性和不带偏见的内容。 | 是 | 需要内容审查 | 不恰当或有偏见的内容 |
| 可以监控使用情况，防止滥用。 | 是 | 部分监测选项 | 没有监测工具 |
B.备课
| 考虑使用 | 需要澄清 | 不推荐 | |
| 生成准确和相关的内容。 | 是 | 验证输出质量 | 提供不准确或不相关的材料 |
| 为生成的内容提供引文。 | 是 | 引文不一致 | 未提供引文 |
| 无需上传敏感的个人数据即可使用。 | 是 | 所需的敏感数据有限 | 需要大量敏感数据 |
C.撰写成绩单或使用学生数据
| 考虑使用 | 需要澄清 | 不推荐 | |
| 遵守隐私法（PIPEDA、FIPPA）。 | 已确认 | 需要查看 | 可能不符合要求 |
| 接受匿名或化名的学生数据。 | 是 | 有限的匿名化 | 无匿名化选项 |
| 提供使用后删除数据的安全选项。 | 已确认 | 需要手动删除 | 无删除工具 |
D.评估学生家庭作业
| 考虑使用 | 需要澄清 | 不推荐 | |
| 可以分析作业，而无需 存储可识别的 信息 | 已确认 | 存储政策不明确 | 存储可识别数据 |
| 提供公正、准确和建设性的反馈意见。 | 是 | 需要人工验证 | 有偏见或不准确的反馈 |
| 与评分标准和做法保持一致。 | 已确认 | 需要调整 | 输出不对齐 |
E.制作课堂材料
| 考虑使用 | 需要澄清 | 不推荐 | |
| 编写适合儿童年龄的准确材料。 | 是 | 需要验证 | 不适当的材料 |
| 内容可定制和编辑，供课堂使用。 | 完全可定制 | 有限的定制 | 刚性内容输出 |
| 避免版权或知识产权问题。 | 已确认 | 许可证不明确 | 侵犯版权 |
F.道德和包容性使用
评估教育领域的人工智能工具还需要关注道德因素和包容性。这些工具应符合既定的教育价值观，并促进所有学生和教师的公平。
| 考虑使用 | 需要澄清 | 不推荐 | |
| 工具是否解决了设计和输出中的潜在偏差？ | 已确认 | 不清楚或未审查 | 偏见或歧视的证据 |
| 该工具是否具有文化敏感性和包容性？ | 是 | 需要审查 | 排斥或边缘化群体 |
| 该工具是否支持所有学生（包括残疾学生）的公平访问和使用 | 是 | 无障碍程度有限 | 无法访问 |
G. 无障碍和可用性
人工智能工具的设计应考虑到可访问性和可用性，确保对有不同需求（包括残疾或语言障碍）的学生公平。教师应评估以下标准。
| 考虑使用 | 需要澄清 | 不推荐 | |
| 工具是否包含无障碍功能，如屏幕阅读器或可调整的字体大小？ | 是 | 功能有限 | 无法访问 |
| 该工具是否与已在使用的辅助技术兼容？ | 完全兼容 | 部分兼容性 | 不兼容 |
| 该工具是否为学生和家庭提供多语种支持？ | 是 | 语言有限 | 不支持多种语言 |
H.持续改进和反馈
应定期对人工智能工具进行审查，以确保它们始终有效并与教育目标保持一致。教师、学生和管理人员应有机制提供反馈，并为这些工具的持续评估做出贡献。
| 考虑使用 | 需要澄清 | 不推荐 | |
| 学校或学区是否有计划评估该工具的长期影响？ | 是 | 有限公司 反馈选项 | 无反馈机制 |
| 是否有定期更新和改进工具的程序？ | 是 | 需要审查 | 无更新程序 |
| 工具是否提供用户反馈机制？ | 是 | 需要开发 | 无评估计划 |
给教师的重要提示
每个输入都是数据
要知道，你或你的学生输入人工智能工具的任何数据都会成为该工具数据库的一部分。即使是看似无害的输入，如备课文本，也可能被收集和存储。
保持警惕
如果某个工具的隐私政策或数据惯例不明确，在得到澄清之前，应避免使用该工具。
与信息技术/管理部门合作
在评估这些工具时，您并非孤军奋战。校区 IT 团队和管理员是评估隐私、安全和合规性的宝贵资源。
其他资源
English 
French 
Spanish 
Chinese 
Ukrainian