Некоторые этические и юридические вопросы, которые возникают при использовании искусственного интеллекта (ИИ) в финансовом секторе:

Этические вопросы:

• Объяснимость алгоритмов принятия решений. 5 Важно определить основные факторы, лежащие в основе рекомендаций, которые выдаёт модель ИИ. 5 Также существует угроза принятия предвзятых или дискриминационных решений. 5 Например, отказ в кредитах на основе скоринга без учёта жизненных обстоятельств человека или навязывание ненужных, но прибыльных для банка продуктов. 5
• Баланс между коммерческими целями финансовых организаций и заботой о благополучии клиентов. 5 Например, важно, чтобы кредитные учреждения не злоупотребляли технологиями в ущерб человеческому общению. 5
• Ответственность за решения, принимаемые ИИ-системами. 5 Если алгоритм нанёс ущерб клиенту, кто должен отвечать — разработчики, руководство банка или сам клиент? 5

Юридические вопросы:

• Защита персональных данных. 34 Объём информации, необходимый для эффективной работы ИИ, вызывает опасения относительно сохранности данных и их конфиденциальности. 3 Утечка этих данных значительно увеличивает риск мошенничества. 3
• Ответственность за корректность данных. 2 Банки и финансовые учреждения должны нести ответственность за точность и актуальность данных, предоставляемых ИИ. 2 Ошибки в работе алгоритмов могут привести к неверным инвестиционным решениям и вызвать убытки. 2
• Ответственность за ущерб, причинённый ошибками ИИ или кибератаками, направленными на его алгоритмы. 2 Если ИИ принимает решения по кредитованию или управлению инвестициями, и эти решения наносят вред клиентам, юридическое лицо (банк или МФО) будет нести ответственность за действия своих систем. 2