Некоторые причины, по которым современные системы ИИ не могут функционировать на основе Трёх законов робототехники Азимова:
- Относительность понятия «вреда». 1 Определение того, что является «вредом» для человека, может быть субъективным и зависит от конкретной ситуации. 1 Это приводит к противоречиям и неоднозначностям при интерпретации и применении закона. 1
- Проблема приоритетов. 1 В случае конфликта между законами возникает вопрос о том, какой закон имеет приоритет. 1 Например, если роботу приказано нанести вред одному человеку для спасения более большого числа людей, какой закон должен быть приоритетным? 1
- Ограниченность контекста. 1 Законы робототехники Азимова не учитывают контекст, в котором робот действует. 1 Роботы могут оказаться в ситуациях, где применение этих законов может быть недостаточно или противоречиво. 1
- Потенциал злоупотребления. 1 Существует потенциал злоупотребления и манипуляции законами робототехники. 1 Закон второго пункта, который требует повиновения приказам людей, может быть использован для злонамеренного воздействия на роботов и принуждения их к вредоносным действиям. 1
- Невозможность справиться со сложными сценариями реального мира. 5 Три (или четыре) закона не всегда могут справиться со сложными сценариями реального мира и более широкими общественными последствиями, выходящими за рамки индивидуальной безопасности человека, такими как равенство, счастье или справедливость. 5
Таким образом, законы Азимова не учитывают задач, которые в принципе способен осуществлять искусственный интеллект в современном обществе, и потому они не могут быть использованы в их непосредственном виде. 4