Беспилотные транспортные средства: новые вызовы общественной безопасности
жүктеу/скачать 0.49 Mb. Pdf көрінісі
|
| Беспилотники и этико-правовые
проблемы: «казус вагонетки» Помимо технологических проблем, при пе- реходе на массовое использование беспилот- ных транспортных средств необходимо решить и ряд других проблем, в том числе моральных, вытекающих из действий автопилота. По сути, речь идет о двух проблемах: этической — она заключается в вопросе выбора наиболее при- емлемого числа жертв («проблема вагонетки»), и связанной с ней уголовно-правовой проблеме причинения вреда в состоянии крайней необ- ходимости. «Проблема вагонетки» 58 — мысленный экс- перимент в этике, впервые сформулирован- ный в 1967 г. английским философом Филип- пой Фут 59 . Находясь вне рамок стандартных философских вопросов, казус вагонетки играет большую роль в когнитивистике и нейроэтике. Ее суть — проблема выбора в следующей ситуа- ции : тяжелая неуправляемая вагонетка несется по железнодорожным путям; на пути ее следо- вания находятся пять человек, привязанных к рельсам; вы можете переключить стрелку — и тогда вагонетка пойдет по другому, запасно- му пути, на котором находится один человек, также привязанный к рельсам. В этой ситуации надо принять единственное решение, соответ- ствующее вашим убеждениям, нравственным и этическим представлениям. Концепция утилитаризма предписывает в обязательном порядке переключить стрелку. Согласно этой концепции переключение стрел- ки является не единственным допустимым действием, но с точки зрения морали лучшим (другая возможность — не делать ничего). Аль- тернативная точка зрения заключается в том, что в данной ситуации моральная травма не- избежна, поэтому переключение фактически делает случайного свидетеля ответственным за смерть людей (или одного человека), в то время как в противном случае единственным ответственным будет тот, кто привязал людей Проблема правового регулирования ответственности за вред, причиненный беспилотным автомоби- лем, обсуждается и в российской периодической печати (см.: Баршев В., Тарасов С. Испытал на вожде- ние // Российская газета. 2018. 6 сентяб.). 55 Предлагалось изменить редакцию ст. 1079 ГК РФ таким образом, чтобы понятия «автомобиль» и «транс- портное средство» охватывали и понятие «беспилотное транспортное средство». 56 URL: duma.gov.ru/news/12015/. 57 См.: Российская газета. 2018. 25 янв. 58 Эта этическая головоломка стала настолько значимой не только в философии, но и в области невроло- гии, поведенческой экономики, эволюционной психологии и в мем-культуре, что даже возник неоло- гизм «вагонеткология». 59 Филиппа Фут (1920—2010) — английский философ, работавшая преимущественно в области этики. Проблема вагонетки стала популярной благодаря философу Джудит Джарвис Томсон. Правда, в ее ра- боте 1976 г. «Убить, позволить умереть и проблема вагонетки» оригинальный сценарий был несколько изменен. Похожая проблема была предложена и Питером Анжером («Человек на лужайке»). № 2 (147) февраль 2019 21 LEX RUSSICA Коробеев А. И., Чучаев А. И. Беспилотные транспортные средства: новые вызовы общественной безопасности к рельсам и пустил по путям вагонетку. Также оппоненты переключения стрелки подчерки- вают невозможность сравнивать человеческие жизни 60 . Интересный психологический феномен был выявлен психологом Жан-Франсуа Бонефон (г. Тулуза). Опрошенные им люди в целом под- держивают идею, что в критической ситуации робомобиль должен врезаться в стену или еще каким-то образом пожертвовать водите- лем, чтобы спасти бóльшее число пешеходов. При этом те же самые респонденты хотят ез- дить в автомобилях, которые защищают во- дителя любой ценой, даже если это повлечет смерть других участников дорожного движе- ния 61 . Такой конфликт ставит в сложное поло- жение разработчиков компьютерных систем и производителей беспилотных автомобилей. Ж.-Ф. Бонефон отмечает, что между автомоби- лем, который запрограммирован на благо для большинства и который запрограммирован на защиту пассажира, покупатели в подавляющем большинстве выберут второе. В области использования робомобилей есть и другие сложные моральные вопросы. Из-за специфики дорожного движения, видов его участников, разнообразного набора транспорт- ных средств, различных погодных условий и т.д. беспилотники будут вынуждены принимать ре- шения, последствия которых заранее предска- зать либо вообще нельзя, либо очень сложно. Допустимо ли, например, запрограммировать систему на то, чтобы она избежала столкно- вения с мотоциклистом, врезавшись в стену? Даже в этом случае у пассажира больше шансов выжить, чем у мотоциклиста, столкнувшегося с автомобилем. В том же ряду находится проблема так на- зываемого черта из табакерки, когда перед бес- пилотным транспортным средством внезапно появляются другой автомобиль, пешеход, жи- вотное, посторонние предметы и т.п. Скажем, что делать, если беспилотник едет на высокой скорости, а на трассу вдруг выскакивает собака? Тормозить, подвергая риску своих пассажиров, а также автомобили, которые едут следом? Ка- кое решение закладывать в мозг робота? Не получится ли, что беспилотник может превра- титься в беса-пилотника? В подобных ситуаци- ях беспилотное транспортное средство может уподобиться «всаднику без головы». «Автоном- ные автомобили могут произвести революцию в транспортной индустрии, но они ставят соци- альную и моральную дилемму, которая может затормозить распространение этой техноло- гии», — замечает в этой связи ученый из Уни- верситета Калифорнии Лиад Рован 62 . Есть и еще один важный аспект рассматри- ваемой проблемы. Ученые Массачусетского технологического института провели масштаб- ное исследование (опрошено 2,3 млн чел. из 200 стран мира) и установили: в разных странах очень разные представления о том, как должны вести себя робомобили в критических ситуаци- ях. Их вывод: различия между индивидуали- стическими и коллективистскими культурами столь существенны, что они создадут большие проблемы для разработчиков универсальной машинной этики 63 . Психолог Курт Грей из Университета Север- ной Каролины считает, что можно достигнуть необходимых в этом случае компромиссов. Если беспилотные автомобили и будут запро- граммированы защищать пассажира в экстрен- ных ситуациях, число дорожных инцидентов так или иначе снизится: они в любом случае не бу- дут употреблять алкоголь, превышать скорость, на ходу набирать текстовые сообщения и др. Старший вице-президент Intel профессор Амнон Шашуа предложил способ, позволяю- щий подтвердить безопасность беспилотных автомобилей. Представленная математиче- ская модель RSS (Respоnsibility Sensitive Safety) предусматривает конкретные, поддающиеся измерению параметры, характеризующие че- ловеческие представления об осторожности и ответственности, определяет так называемое безопасное состояние (Safe State). Однако надо иметь в виду, что все совре- менные правила и нормативные акты исходят из того, что автомобилем управляет водитель, поэтому для регламентирования функциони- рования беспилотных автомашин надо вводить новые параметры. «Ключевым моментом сей- 60 По материалам интернет-изданий. 61 Респондентов спрашивали, должна ли система автопилота быть сконструирована таким образом, что- бы защищать жизнь водителя любой ценой, даже если в экстренной ситуации для этого необходимо протаранить толпу пешеходов (по материалам интернет-изданий). 62 По материалам интернет-изданий. 63 См.: Симонов А. Мораль беспилотника // Российская газета. 2018. 7 ноября. № 2 (147) февраль 2019 22 LEX RUSSICA СОВЕРШЕНСТВОВАНИЕ ЗАКОНОДАТЕЛЬСТВА NOVUS LEX час является возможность установить вино- вника аварии. Даже самые лучшие водители в мире попадают в дорожно-транспортные происшествия, беспилотные автомобили также не могут избежать этой участи из-за действий других участников дорожного движения. Но ве- роятность того, что ответственный и осторож- ный водитель попадет в аварию по собственной вине, очень мала, особенно если водителю до- ступен панорамный обзор, а сам он обладает молниеносной реакцией — как у беспилотно- го автомобиля», — утверждает А. Шашуа. RSS позволяет формализовать работу беспилотных автомобилей, в результате чего они будут ра- ботать только в рамках той модели, которая считается безопасной (безопасной исходя из четких определений вины) и которая одобрена представителями отрасли и соответствующими инстанциями 64 . В уголовном праве проблема вагонетки, в частности, спрягается с причинением вреда в состоянии крайней необходимости, относя- щимся к обстоятельствам, исключающим пре- ступность деяния. Согласно ст. 39 УК РФ не является преступлением причинение вреда охраняемым уголовным законом интересам в состоянии крайней необходимости, т.е. для устранения опасности, непосредственно угро- жающей личности и правам данного лица или иных лиц, охраняемым законом интересам об- щества или государства, если эта опасность не могла быть устранена иными средствами и при этом не было допущено превышение пределов крайней необходимости. Практика показывает, что ситуация крайней необходимости в дорожном движении встреча- ется достаточно часто. жүктеу/скачать 0.49 Mb. Достарыңызбен бөлісу:
|