Представьте себе: вы едете за рулем, и прямо перед вашим автомобилем - не замечая его и смотря в другую сторону - дорогу начинает переходить человек. Вы резко ударяете по тормозам, чтобы не сбить пешехода - и в вас врезается машина сзади.

Что произошло? Давайте разберемся.

Вы как водитель сделали сознательный выбор, перенеся риск столкновения: с рассеянного пешехода - на себя и своих пассажиров. И выбор этот продиктован не только вашей оценкой опасности (понятно, что люди в автомобиле более защищены, чем переходящий дорогу человек), но и вашими моральными принципами.

Усложним задачу. Допустим, у вас отказали тормоза - и вы должны выбрать: задавить незадачливого пешехода или вывернуть на тротуар и сбить там сразу нескольких человек? 

Выбор кажется очевидным - но что если на дороге перед вами инвалид или беременная женщина? Ведь личность пешехода вполне может повлиять на ваше решение. А если это ваш близкий друг - или даже ваш ребенок?

А теперь представьте себе, что вы пассажир, а никакого водителя в вашей машине нет - это беспилотный автомобиль, робокар. Какой моральный выбор должен сделать управляющий им искусственный интеллект - как его нужно запрограммировать?

Над этим вопросом не первый год бьются все разработчики беспилотных автомобилей - от Audi и Toyota до Tesla и "Яндекс". Но, как выяснили ученые, ответ на него сильно зависит от того, кого вы спрашиваете.

Кого спасти - старика или ребенка?

Чтобы разработать универсальный алгоритм принятия решений для беспилотных машин, ученые Массачусетского технологического института (MIT) разработали специальный онлайн-тест, пройти который мог любой желающий.

 

Каждому участнику опроса предлагалась дюжина гипотетических дорожных ситуаций - вроде тех, что приведены выше, - в которых водителю необходимо сделать моральный выбор, неизбежно влекущий за собой смертельный исход. Например, насмерть сбить трех пожилых пешеходов на автостраде - или направить машину в бетонный забор, убив находящихся в ней троих пассажиров.

Чтобы точнее выявить приоритеты респондентов, сценарии онлайн-теста варьировались. Кого участники спасут с наибольшей вероятностью - молодых или пожилых? Бедных или богатых? Одного ребенка или нескольких взрослых?

Масштабы эксперимента, результаты которого опубликованы в журнале Nature, впечатляют: за полтора года в нем приняли участие 2,3 млн человек из 233 стран и территорий (тест специально перевели на десяток языков). В общей сложности ученые собрали почти 40 млн ответов. И, проанализировав эту огромную базу данных, они сделали несколько важных выводов.

Первый - и, пожалуй, самый важный из них: моральные приоритеты сильно зависят от страны проживания. Авторы исследования выделили три типа стран, которые они условно назвали "западными", "восточными" и "южными". Условно - потому что Франция, например, попала в "южный тип", а вот Египет - в "восточный".

"Западники" чаще предпочитали спасать более молодых людей, а "восточники" - более пожилых. Представители "южных" стран чаще отдавали предпочтения женщинам и детям, а также людям, обладающим более высоким социальным статусом.

На удивление, люди, занимающие более высокое положение в обществе, вызывали больше симпатий и у жителей "западных" стран - по сравнению с "восточными".

Зато "восточные" жители почти не принимали в расчет разницу в количестве спасенных жизней, основывая свои предпочтения на других факторах.

Второй вывод: ответы зависят и от демографических показателей участников эксперимента, таких как пол, возраст и так далее - но уже далеко не так сильно.

И третий - возможно, довольно очевидный: моральный выбор сильно коррелирует не только с глубоко укорененными в культуре представлениями об этике, но и с современным состоянием гражданских институтов. 

Например, жители относительно богатых стран с сильной и независимой судебной системой (Финляндии и Японии) проявляли куда меньше симпатий к пешеходу, вышедшему на дорогу в неположенном месте, чем респонденты из Нигерии или Пакистана.

 

"Универсальных правил нет"

Опрос, проведенный в 2016 году, выявил довольно интересный парадокс. С одной стороны, большинство респондентов заявили, что беспилотный автомобиль должен ставить во главу угла безопасность пешеходов, даже если это означает дополнительные риски для пассажиров. С другой - люди признавались, что сами не стали бы покупать машину, запрограммированную подобным образом.

Именно это сподвигло ученых MIT на создание онлайн-теста Moral Machine, в разработке которого приняли участие психологи, антропологи и экономисты со всего мира.

"Люди, размышляющие о машинной этике, исходят из того, что можно создать для роботов какой-то идеальный набор правил. Но наши данные показывают, что никаких универсальных правил нет", - утверждает один из авторов исследования Ияд Рахван.

Сам Рахван родился в Сирии, окончил университет в Австралии, а теперь работает в США. Впрочем, по результатам эксперимента все эти три страны попали в "западный" кластер.

Понятно, что в повседневной жизни мы крайне редко сталкиваемся с необходимостью делать подобный выбор. Критики исследования справедливо задаются вопросом, можно ли вообще предлагать сидящему перед компьютером человеку подобные гипотетические сценарии, ставить перед ним умозрительный вопрос жизни и смерти - и полагаться на его выбор?

Однако авторы работы утверждают, что так или иначе моральный выбор водителям приходится делать каждый день - пусть и не со столь драматичными последствиями. И выявленные тестом культурные различия необходимо принимать во внимание как производителям беспилотных автомобилей, так и законодателям.

Как отмечает Nature, представители Audi уже согласились с тем, что результаты теста помогут им в обсуждении проблем, стоящих перед разработчиками беспилотных машин.

Остальные компании, тестирующие беспилотные автомобили, в том числе Toyota и Uber, от комментариев отказались.

Николай Воронин