Математическая формула поможет ИИ принимать сложные моральные решения
Предыдущие усилия по включению этического принятия решений в программы ИИ были ограничены и сосредоточены на последствиях. Но когда люди выносят моральные суждения, они также учитывают два других фактора.
Первый фактор — это намерение и характер данного действия. Кто выполняет данное действие и чего он пытается достичь? Второй – само действие. Например, люди склонны рассматривать ложь, как изначально плохое действие.
И да, мы можем согласиться с тем, что лгать плохо, но если медсестра лжет пациенту, чтобы отдать приоритет лечению другого, нуждающегося в более срочном лечении, большинство людей сочтут это морально приемлемым.
Чтобы справиться со сложностью принятия моральных решений, исследователи разработали математическую формулу, основанную на модели «Агент, действие и последствия» (ADC).
Цель исследования в том, чтобы перевести модель ADC в формат, возможный для включения в программирование ИИ.
Фото: Freepik
- Комментарии
