ШІ в освіті
Інструменти штучного інтелекту (ШІ) все частіше використовуються в освітніх установах - від планування уроків до оцінювання учнівських робіт. Хоча ці інструменти пропонують зручність та інновації, вони також створюють унікальні проблеми з конфіденційністю та безпекою, які освітяни повинні ретельно обміркувати перед використанням.
Навіщо оцінювати інструменти штучного інтелекту?
На відміну від традиційних засобів навчання, технології штучного інтелекту значною мірою покладаються на дані - дані, які часто збираються, зберігаються, а іноді використовуються для навчання моделей штучного інтелекту. Коли ці дані містять конфіденційну або особисту інформацію, наприклад, імена учнів або оцінки, це створює ризики, які можуть поставити під загрозу конфіденційність учнів або навіть порушити канадські закони про конфіденційність, такі як PIPEDA або FIPPA.
Ознайомтеся з повним контрольним списком
За допомогою цього контрольного списку ви робите крок до створення безпечного, захищеного та інноваційного навчального середовища для ваших учнів.
Питання щодо конфіденційності та безпеки
Ці питання стосуються всіх інструментів і повинні бути першими критеріями оцінки.
| Критерії | Подумайте про використання | З'ясування потреб | Не рекомендується |
| Політика конфіденційності чітко визначає, що збираються дані та зберігається. | Так. | Потребує додаткової інформації | Немає політики конфіденційності |
| Введені дані не використовуються для навчання ШІ-моделей. | Підтверджено. | Неясно або неоднозначний | Явно використовується для моделі поїздів |
| Дані зашифровані під час передачі (наприклад, наскрізний). | Підтверджено. | Потрібно підтвердження | Без шифрування |
| Мінімум або відсутність персональних даних, необхідних для використання. | Так. | Потребує обмежених даних | Вимагає значних персональних даних |
| Постачальник вказує місце зберігання даних (наприклад, Канада). | Чітко сформульовано | Не вказано | Невідоме або проблемне місцезнаходження |
| Відповідає канадським законам про конфіденційність (PIPEDA, FIPPA тощо). | Підтверджено. | Потребує перегляду | Ймовірно, не відповідає вимогам |
| Чи збирає інструмент дані про користувача (наприклад, IP-адресу, шаблони використання, поведінку користувача)? | Конфіденційні дані не збираються | Невизначеність у політиці | Збір даних є екстенсивним або нав'язливим |
| Чи існує прозорість щодо того, як використовуються та зберігаються дані користувачів? | Так. | Потребує подальшого роз'яснення | Відсутність прозорості |
Сценарії використання
Розуміння та управління цими ризиками є надзвичайно важливими для інструментів штучного інтелекту в освіті. Вчителі повинні переконатися, що будь-який інструмент ШІ або чат-бот, який використовується в класі, дотримується законів про конфіденційність і збирає лише мінімум даних, необхідних для його використання за призначенням. Ознайомтеся з цими сценаріями використання нижче!
A. Використання інструментів штучного інтелекту зі студентами
| Подумайте про використання | З'ясування потреб | Не рекомендується | |
| Може використовуватися без необхідності введення студентського акаунта або особистої інформації. | Так. | Деякі особисті необхідні дані | Потрібні повні облікові записи або конфіденційна інформація |
| Пропонує відповідний до віку, інклюзивний та неупереджений контент. | Так. | Потребує перегляду вмісту | Невідповідний або упереджений контент |
| Використання можна контролювати, щоб запобігти зловживанням. | Так. | Часткові варіанти моніторингу | Відсутність інструментів моніторингу |
B. Планування уроків
| Подумайте про використання | З'ясування потреб | Не рекомендується | |
| Генерує точний і релевантний контент. | Так. | Перевірте якість вихідних даних | Створює неточний або нерелевантний матеріал |
| Забезпечує цитування для створеного контенту. | Так. | Непослідовні цитати | Посилання не надано |
| Можна використовувати без завантаження конфіденційних персональних даних. | Так. | Потрібні обмежені конфіденційні дані | Потрібні значні конфіденційні дані |
C. Написання табелів успішності або використання даних про учнів
| Подумайте про використання | З'ясування потреб | Не рекомендується | |
| Дотримується законів про конфіденційність (PIPEDA, FIPPA). | Підтверджено. | Потрібен перегляд | Ймовірно, не відповідає вимогам |
| Приймає анонімні або псевдонімні дані студентів. | Так. | Обмежена анонімізація | Немає можливості анонімізації |
| Надає безпечні опції для видалення даних після використання. | Підтверджено. | Потребує ручного видалення | Немає інструментів для видалення |
D. Оцінювання домашніх завдань учнів
| Подумайте про використання | З'ясування потреб | Не рекомендується | |
| Може аналізувати домашнє завдання без зберігання ідентифікованих інформація. | Підтверджено. | Нечітка політика зберігання | Зберігає дані, які можна ідентифікувати |
| Надає чесний, точний і конструктивний зворотній зв'язок. | Так. | Потребує ручної перевірки | Упереджені або неточні відгуки |
| Узгоджується зі стандартами та практиками оцінювання. | Підтверджено. | Потребує коригування | Неузгоджені результати |
E. Створення навчальних матеріалів
| Подумайте про використання | З'ясування потреб | Не рекомендується | |
| Створює відповідні віку та точні матеріали. | Так. | Потребує перевірки | Невідповідний матеріал |
| Вміст можна налаштовувати та редагувати для використання в класі. | Повністю настроюється | Обмежене налаштування | Жорсткі вихідні дані контенту |
| Уникає проблем з авторським правом та інтелектуальною власністю. | Підтверджено. | Незрозумілі ліцензії | Порушення авторських прав |
F. Етичне та інклюзивне використання
Оцінюючи інструменти штучного інтелекту в освіті, слід також зосередитися на етичних міркуваннях та інклюзивності. Ці інструменти повинні відповідати усталеним освітнім цінностям і сприяти забезпеченню рівності для всіх учнів і вчителів.
| Подумайте про використання | З'ясування потреб | Не рекомендується | |
| Чи враховує інструмент потенційну упередженість у своєму дизайні та результатах? | Підтверджено. | Незрозуміло або не розглянуто | Свідчення упередженості або дискримінації |
| Чи враховує інструмент культурні особливості та різні точки зору? | Так. | Потребує перегляду | Виключає або маргіналізує групи |
| Чи підтримує інструмент рівність у доступі та зручності використання для всіх студентів, включаючи студентів з інвалідністю? | Так. | Обмежений доступ | Недоступно |
G. Доступність та зручність використання
Інструменти штучного інтелекту слід розробляти з урахуванням доступності та зручності використання, щоб вони були однаково придатними для учнів з різними потребами, зокрема з обмеженими можливостями чи мовними бар'єрами. Вчителі повинні оцінювати їх за такими критеріями.
| Подумайте про використання | З'ясування потреб | Не рекомендується | |
| Чи включає інструмент функції доступності, такі як зчитування з екрану або регульовані розміри шрифтів? | Так. | Обмежені можливості | Недоступно |
| Чи сумісний інструмент з допоміжними технологіями, які вже використовуються? | Повністю сумісні | Часткова сумісність | Не сумісні |
| Чи пропонує інструмент багатомовну підтримку учням і сім'ям? | Так. | Обмежена кількість мов | Немає багатомовної підтримки |
H. Постійне вдосконалення та зворотній зв'язок
Інструменти штучного інтелекту слід регулярно переглядати, щоб переконатися, що вони залишаються ефективними та відповідають освітнім цілям. Викладачі, студенти та адміністрація повинні мати механізми для зворотного зв'язку та участі в постійному оцінюванні цих інструментів.
| Подумайте про використання | З'ясування потреб | Не рекомендується | |
| Чи має школа або округ план оцінювання довгострокового впливу інструменту? | Так. | Обмежений варіанти зворотного зв'язку | Немає механізму зворотного зв'язку |
| Чи існує процес регулярного оновлення та вдосконалення інструменту? | Так. | Потребує перегляду | Відсутність процесу оновлення |
| Чи передбачає інструмент механізм зворотного зв'язку з користувачами? | Так. | Потребує доопрацювання | Відсутність плану оцінювання |
Ключові нагадування для вчителів
Кожен вхід - це дані
Пам'ятайте, що будь-які дані, які ви або ваші учні вводите в інструмент штучного інтелекту, стають частиною бази даних цього інструменту. Навіть такі, на перший погляд, нешкідливі дані, як текст для планування уроків, можуть бути зібрані та збережені.
Будьте пильні
Якщо політика конфіденційності інструменту або методи обробки даних незрозумілі, не використовуйте його, поки не отримаєте роз'яснення.
Співпрацюйте з ІТ/адміністрацією
Ви не самотні в оцінці цих інструментів. ІТ-команди та адміністратори шкільних округів є цінними ресурсами для оцінки конфіденційності, безпеки та відповідності.
English 
French 
Spanish 
Chinese 
Ukrainian