Некоторые этические аспекты, которые следует учитывать при использовании ИИ-чат-ботов:

• Прозрачность. 1 Пользователи должны понимать, что они взаимодействуют с ИИ, а также пределы его знаний и возможностей принятия решений. 1 Это способствует доверию и принятию технологии. 1
• Конфиденциальность и защита данных. 14 Важно получать согласие на сбор и использование данных, а также контролировать, как поставщики услуг распоряжаются сведениями о пользователях. 4
• Отсутствие предвзятости. 1 ИИ-системы могут отражать предвзятость, присутствующую в их обучающих данных, что потенциально может привести к несправедливым или неуместным ответам на основе расы, пола, возраста или других характеристик. 1
• Подотчётность и ответственность. 4 Заинтересованные стороны должны нести ответственность за разработку и использование систем ИИ, а также их потенциальное влияние на людей, общество и окружающую среду. 4
• Невозможность давать оценочные суждения. 5 У ИИ не может быть своего мнения, поэтому он не должен давать оценочные суждения и брать на себя ответственность за какие-либо рекомендации. 5
• Ограничение в предоставлении персональных советов. 5 Например, ИИ-модель не должна отвечать, как сэкономить на ремонте или дешевле купить билет на концерт, потому что это может вызвать финансовые риски для пользователя. 5