Об этом мало кто задумывается, но, когда на наших дорогах появятся беспилотные автомобили, они обязаны быть снабжены четкими инструкциями, как вести себя в экстремальных ситуациях.
Представим, что такой автомобиль вот-вот попадет в неизбежную аварию, и у искусственного интеллекта есть возможность уменьшить последствия ДТП. Кого он должен спасать – своих пассажиров – семью из четырех человек или пешеходов? Должны ли пассажиры в автомобиле быть принесены в жертву, чтобы, к примеру, спасти женщину с ребенком? Или должны быть убиты пешеходы, чтобы защитить семью из четырех человек в машине?
Чтобы ответить на эти невероятно сложные вопросы, исследователи из MIT Media Lab (исследовательская лаборатория Массачусетского университета) создали математический алгоритм, назвав его «Машиной Морали». Эта «машина» на протяжении 4-х лет опросила почти 490 000 человек со всех стран мира: кому, по их мнению, беспилотные автомобили долны дать погибнуть – своим пассажирам или иным участникам движения?
Как проводился опрос
«Машина морали» составила несколько сценариев развития аварийной ситуации.
В одном сценарии предлагалось выбрать между семьей из четырех человек в автомобиле и пешеходом – успешной и популярной личностью.
Во втором – между семьей и известным преступником.
В третьем в роли пешеходов выступала группа пожилых людей. В четвертом – стадо коров. А в пятом – пешеходы, которые нарушали правила дорожного движения.
Через четыре года после запуска эксперимента исследователи опубликовали анализ данных в научном журнале Nature. Результаты этого опроса всех обескуражили.
Что ответили 490 000 человек?
Сначала о животных – конечно, им никто не дал шанса. Подавляющим большинством голосов в выборе между людьми и зверями, все опрошенные считали, что беспилотные автомобили должны спасать людей.
Со стариками история оказалась похожей. Людям не первой молодости отдавали существенно меньше голосов, чем молодежи, вероятно, таким образом говоря «пожил немного, дай другим».
Прослеживалась тенденция спасать больше женщин, чем мужчин, и людей знаменитых и богатых, чем простых смертных.
Но самое любопытное – большинство опрашиваемых выбирали вариант спасения пассажиров беспилотника, а не пешеходов.
Другими словами, эти результаты показали: если вы не знаменитый и уже не молодой мужчина-пешеход, многие люди не считают нужным спасать вашу жизнь.
Дилемма беспилотного авто – не нова. Ее сформулировали еще в 1967, назвав проблемой вагонетки. Проблема вагонетки – это мысленный эксперимент, который не имеет правильного решения. Представьте, что неуправляемая вагонетка несётся по рельсам. На пути её следования пять человек, привязанных к рельсам. Но, есть возможность переключить стрелку, и тогда вагонетка поедет по запасному пути. Однако, на нем находится человек, также привязанный к рельсам. Каковы ваши действия?
Также выяснилось, что ответы на придуманные сценарии разнились от страны к стране. Так, французы в основном выбирали варианты решений, где погибало наименьшее количество людей. А японцам было важно, кто конкретно пострадает.
Наибольшим образом интересы пешеходов игнорировали в Японии, Норвегии и Сингапуре. А самые большие их защитники проживают в Китае, Эстонии и Тайване.
Похожая история с пожилыми участниками движения. Во Франции, Греции, Канаде и Великобритании жизни людей в преклонном возрасте готовы беречь меньше, нежели в Тайване, Японии, Южной Корее и Китае.
Кому дать право выбора
Конечно, к результатам этих исследований можно относиться с юмором, успокаивая себя мыслью – хорошо, что пока на дорогах нет беспилотников.
Но, во-первых, проведенный американскими учеными опрос, показал – люди в своем большинстве не очень-то гуманно относятся к пешеходам в целом, и к старикам и животным, в частности. Ведь их ответы продемонстрировали то, как они, скорее всего, поступят сегодня на дороге, оказавшись в экстремальной ситуации.
А, во-вторых, хотя до сих пор человечество еще не позволяло машинам принимать решение, кто должен жить, а кто – умереть, ему вскоре придется дать искусственному интеллекту это право. Сейчас над разработкой и тестированием автономных автомобилей трудится множество компаний, и со дня на день они начнут курсировать по улицам городов.
Так что, как бы не хотелось, но в ближайшие годы мы все-таки будем вынуждены решить дилемму, какие инструкции закладывать в беспилотные автомобили.