Какие этические проблемы связаны с применением искусственного интеллекта в оценке студенческих работ?

Некоторые этические проблемы, связанные с применением искусственного интеллекта (ИИ) в оценке студенческих работ:

• Предвзятость и дискриминация. kpfu.ru libeldoc.bsuir.by Алгоритмы машинного обучения, на которых обучаются ИИ-системы, могут содержать скрытые предубеждения и стереотипы. kpfu.ru Это может привести к несправедливой оценке способностей учащихся из недостаточно представленных групп, ограничению образовательных возможностей для определённых категорий студентов и другим негативным последствиям. kpfu.ru
• Конфиденциальность и защита данных. kpfu.ru libeldoc.bsuir.by Технологии с ИИ часто собирают большие объёмы данных об учащихся, включая их персональные данные, успеваемость, личные предпочтения, данные о родственных связях, поведении и прочее. libeldoc.bsuir.by Неправомерное использование или утечка такой информации могут иметь серьёзные последствия для учащихся, включая нарушение приватности, дискриминацию и потенциальные злоупотребления. kpfu.ru
• Зависимость от ИИ-систем. kpfu.ru Существует риск, что чрезмерная зависимость от ИИ-систем может ограничить способность студентов к критическому мышлению и самостоятельному принятию решений. kpfu.ru
• Стандартизация образовательных траекторий. kpfu.ru Несмотря на возможности персонализации, ИИ может способствовать унификации образовательных путей, что приводит к снижению разнообразия опыта и ограничению перспектив студентов. kpfu.ru
• Непрозрачность ИИ-систем. kpfu.ru Непрозрачность процессов принятия решений ИИ-системами может подорвать доверие к ним и затруднить их эффективное использование в образовательном контексте. kpfu.ru
• Риск увеличения объёма плагиата. 1economic.ru Студенты могут использовать ИИ при подготовке учебных работ, и точно определить, использовались ли такие технологии, практически невозможно. skillbox.ru