Беспилотные автомобили перешли из разряда фантастики во вполне реальное явление. Вследствие этого всплыла философская проблема вагонетки – мысленный эксперимент в этике, сформулированный в ХХ веке английским философом Филиппой Фут.
Суть эксперимента заключается в выборе между действием и бездействием. Классический пример: вагонетка в шахте мчится на группу из пяти человек. У вас нет возможности их предупредить, а сами они не замечают опасность. Вы имеете возможность повернуть рычаг и перевести тележку на другие рельсы, но на них стоит один человек. Таким образом, если вы переключите рычаг, спасете пятерых, но убьете одного. Как вы поступите?
Вариаций этого эксперимента несколько, но суть у всех одинакова. С появлением беспилотных автомобилей возник вопрос: как поступить автомобилю, выбирая между жизнью единственного пассажира автомобиля и жизнями пяти пешеходов. Вопрос обращен к программистам, которые пишут программы для автомобиля.
Опрос, результаты которого опубликованы в журнале Science, показал, что большинство людей не покупали бы автомобиль, если бы знали, что им придется принести себя в жертву в случае аварии.
Андрю Четем, главный инженер проекта Google X Self-Driving Car, говорит, что во время его поездок на беспилотных автомобилях еще ни разу не приходилось выбирать «между детской коляской и бабушкой». Но если и будет допущена такая ситуация, это будет означать, что авто допустило ошибку несколько секунд раньше. Таким образом, задача программистов проекта – написать для автомобиля такой код, чтобы ситуация выбора между жертвами не возникала, а все остальные случаи будут говорить об ошибке разработчиков. Также Четем говорит, что лучше не выбирать, кого задавить, а жать на тормоза.
Главный инженер проекта понимает, что люди будут высказывать свое мнение по поводу этой этической дилеммы и не придут к единому решению, а поэтому не будет руководствоваться общественным мнением при кодировании автомобиля.