Зачем давать право выбора машине?

Question

[faleaksey]

Всем доброго времени! Недавно MIT опубликовал результаты тестов Moral Machine (Машины Морали): нужно выбирать, кого должен спасти, а кого сбить беспилотный автомобиль в аварийной ситуации. Пост по теме.

Вопрос: зачем давать выбор машине (естественно, на основании каких-либо данных), а не дать волю случаю?

Comments

[Lander]

Думаю не ошибусь, если спрошу, что вы имеете ввиду под "волей случая"?

[Сергей Соколов]

Lander, наверное, имеется в виду, почему бы для ситуации заранее определять не решение, а вероятности каждого из возможных решений. Конкретное решение выбирать случайно в последний момент исходя из вероятностей.
Так, типа, снимается ответственность с инженеров за «(не)перевод стрелки» и у всех есть шанс выжить до последнего момента.

В известной дилемме стрелочника, например, по результатам опросов (срез «морали» общества на сегодня) предположим, что получили 62% за то, чтобы перевести стрелку и 38% за то, чтобы не перевести. Тогда в self-driving deathcar заложить не однозначное решение «свернуть», а для принятия решения бросать жребий с этим распределением вероятностей между вариантами. Это, формально, даёт шанс и тем и тем выжить. (ИЛИ)

[xzdshr]

Lander, не иначе как воля господня)
Вообще по сути, если "дать волю случаю", т.е. ничего не делать - это тоже в какой-то степени выбор.
А выбор бездействия в некоторых случаях так и вовсе карается по закону.

[Lander]

Сергей Соколов, Таааак... И чем тогда такой автомобиль будет отличаться от обезьяны с гранатой?

[xzdshr]

Сергей Соколов, русская рулетка какая-то у вас получается

[Сергей Соколов]

Lander, именно, рулетка. Но вероятности отражают что-то такое эфемерное в современном обществе. И нельзя потом сказать, что, «ну, у них не было шанса». Был.

[longclaps]

faleaksey, да ты фаталист, естевственно!

[xzdshr]

Сергей Соколов, а теперь представьте появилась новая забава у психов - выбегать перед робомобилем. Такая вот рулетка, либо убьются пассажиры, либо псих. А теперь представьте, что вы пассажир этого автомобиля.
И нафига нам такой "шанс"?

[Даша Циклаури]

xzdshr, а если инженеры кто делал такой автомобиль - психи, то зачем пешеходам уменьшать шанс выжить?

[Сергей Соколов]

xzdshr, это вы затронули более широкую проблему: как должно меняться здоровое общество из-за единиц-психов. Сюда и проблема терроризма, колумбайнов и прочих неудобств в аэропорту — а когда-то шли себе на борт с чемоданами без досмотра. Крайность такого – всех с рождения сажать в одиночки с мягкими стенами и кормить через трубочку, кабы чего не вышло.

[xzdshr]

Даша Циклаури, "инженеры-психи". Объясните, пожалуйста, что это значит. Всё ПО сертифицировано и проверено перед выпуском в релиз, по какому именно сценарию будет вести себя робомобиль.

[xzdshr]

Сергей Соколов, крайности это плохо, не надо возводить все до абсурда и мягких стен. Безопасность ни в чем неповинных людей превыше всего, именно поэтому в аэропорту вы будете очень хорошо досмотрены, а не пройдете свободно с бомбой на борт.
У машин нет права выбора, сам выбор уже сделан за них и заложен в алгоритме теми самими инженерами.

[Сергей Соколов]

xzdshr, интересно, self-driving cars это первый раз, когда разработчики технического устройства сталкиваются с дилеммой стрелочника? Оружие, наверное, можно сказать, решает ту же проблему с другой целью: не минимизировать ущерб всем, а максимизировать ущерб для стороны Б и минимизировать для стороны А.

[dollar]

Машина должна служить хозяину!

[xzdshr]

Сергей Соколов, мне кажется в случаях производства оружия все решается проще, кто заказывает, тот и решает как делать. Тогда у простых исполнителей нет такой дилеммы. Для оружейников наверняка collateral damage - это норма и плевать они хотели на минимизацию ущерба.
В этот раз делают типа для всего общества, вот и приходится считаться с мнением общества, что же делать с этой дилеммой. Подавляющего болшинства голосов нет - проблема.

[Валентин]

на основании каких-либо данных

А эти данные разве не воля случая?

[Сергей delphinpro]

Машина должна служить хозяину!

Действительно! Иначе нафиг мне такая машина, которая вдруг решит въехать в стену и спасти какого-то чужого человека?

[xmoonlight]

Машина должна прогнозировать все возможные ситуации заранее и заранее снижать скорость на опасных участках дороги, а не выбирать кого задавить.

Банальные правила:
1. Тормози (снижай скорость заранее) перед "зеброй" и перекрёстком;
2. Следи постоянно, чтобы ряд левее (если занят опережающим транспортным средством, то правее или обочина) текущего был всегда свободен для экстренного манёвра.

Answer 1

[Владимир]

Тогда давайте еще круче: зачем соблюдать ПДД если можно ездить без них и дать волю случаю.
ПДД нужны для того чтобы поведение машин на дороге было более упорядоченным и предсказуемым, точно также тут машина должна соблюдать ПДД (сохраняем порядок и предсказуемость), а потом уже пытаться минимизировать ущерб (все также не нарушая ПДД).
Напомню что нарушение ПДД приводит к непредсказуемости что часто ведет к увеличению ущерба.

Answer 2

[Юрий]

Сергей Соколов, едете вы такой на своей новенькой автопилот-тачке, вдруг дорогу начала перебегать мышка, и авто запускает у себя русскую рулетку, задавить мышку или отправить машину вместе с вами под откос.

Comments

[Сергей Соколов]

хорошая спекуляция, но.. мышке машина не даст никакой вероятности выиграть. Старушке со взводом пионеров - может.

[Dmitry Bay]

Сергей Соколов, Хорошо, продолжим тему. Есть N дешевых людей (не знаю почему дешевые). Они собираются убить человека V, и придумали неплохой способ - он каждое утро возвращается по магистрали на скорости 130кмчас. Вопрос - сколько нужно дешевых людей, чтобы человек V улетел в кювет?

[Сергей Соколов]

Dmitry Bay, это какое-то нездоровое условие, и, тем более нездоровое деление людей на классы. Ситуация «обмена» чем-то схожа с террористами-смертниками. Какой тезис собирались проиллюстрировать?

[Dmitry Bay]

Сергей Соколов, Вывести систему в особое мнение, конечно же. Это я предложил довольно стопорное предположение. А представьте случай, в котором человек выбежит на проезжую часть , где ему не место. и электроника , посредством рандома, уедет в кювет.

Поэтому я думаю, что приоритет защиты - клиент (тот кто в авто), а дальше уже шансам на спасение.

[Юрий]

Dmitry Bay, приоритет защиты тот кого выберет водитель.
так же как и сейчас все зависит от выбора водителя, только никто о таком зарнее не думает и не успевает обдумать в тот самый момент, поэтому его действия рефлекторные и практически случайные.
либо в машине будут опции либо умельцы начнутся перепрошивать их сами с нужной логикой.

Answer 3

[Сергей Соколов]

Эксперимент Машины Морали – пока чисто теоретический, и имеет больше отношения к исследованию общества, чем к воплощению в железе.

Поэтому прямой ответ: машине выбор никто и не даёт.

Answer 4

[Александр Талалаев]

Система реагирует на события, в данном случае на ситуацию на дороге.
Вот ситуация:
Автомобиль едет, внезапно на дороге оказывается человек, перебегает, автомобиль совершает маневр для того чтобы объехать человека. А теперь представим, что в случае маневра пострадают допустим 10 человек. Вот здесь и начинается выбор. Давить того кто внезапно появился или рисковать другими 10.
Вот если этих других нет, то вопросов нет. объехали и все, но в реальной жизни бывают варианты.
При этом помимо чистой логики в человеческом обществе есть моральный и этический момент.

Comments

[Алексей Николаев]

Давить, конечно. Приоритет должен быть только один: любой ценой сохранить жизнь ездоку. Потому что в противном случае - на кой мне такой драндулет, который в случае чего предпочтет мной пожертвовать? Нет уж, дайте мне повозку 60х годов, Мустанг, например, и я сам порулю.

[Griboks]

Посмотрите фильм "Я, робот".

Answer 5

[Константин Цветков]

Автомобиль едет, внезапно на дороге оказывается человек, перебегает, автомобиль совершает маневр для того чтобы объехать человека.

На ru-chp.livejournal.com постоянно поднимается эта тема. И постоянно всё сводится к одному: вы обязаны тормозить до полной остановки (согласно ПДД). И никаких других вариантов.

Comments

[Сергей Горностаев]

Видать обитатели ru-chp.livejournal.com не умеют в абстрактное мышление. Придётся усложнять: Автомобиль движется по трассе с разрешённой скоростью 80 км/ч, на трассу выбегает человек, возможные варианты:

1. Торможение без изменения движения, неизбежно приводящее к смерти пешехода, так как тормозной путь слишком большой;
   
2. Уход в правую сторону со 100% вероятностью столкновения с другим автомобилем в соседней полосе и неизвестным количеством жертв;
   
3. Уход в левую сторону с 50% вероятностью лобового столкновения со встречным автомобилем, что точно убьёт всех пассажиров.
   

Выбираем.

[Константин Цветков]

Сергей Горностаев, Опять. Вы управляете средством повышенной опасности и обязаны выбирать скорость соответствующую дорожной обстановке. Если на 80-ти у вас тормозной путь не обеспечивает безопасность движения, снижайте скорость.

[Сергей Горностаев]

Константин Цветков, трасса. Разрешённая скорость до 130 км/ч. Могут даже быть участки с ограничением минимальной скорости. Пешеходы на ней не предусмотрены. Если следовать вашей логике, то самолёты никогда не должны взлетать, а то вдруг упадёт.

[profesor08]

Сергей Горностаев, по тормозам и чистить генофонд.

[Павло Пономаренко]

Константин Цветков, то есть я должен ехать по трассе 40 км/час, потому что теоретически может выскочить чувак на дорогу? Я как-то ехал ночью по трасе, за городом, по шестиполосной дороге на второй полосе. И мне на встречу шёл по средней полосе человек, весь в черном с велосипедом. Скажите, на какой скоросте мне нужно ехать за городом по шестиполосной трассе с бетонным отбойником ночью?

[Юрий]

Константин Цветков,
Вашего утверждение предполагает, что всегда существует возможность выбора абсолютно безопасного режима движения. Я знаю этот режим: движение с предельно малой скоростью.

[Юрий]

Это вопрос по социальной психологии:
"Как человечество пытается решать некорректно поставленные задачи?"
Что касается выбора алгоритма, читайте Норберта Винера "Кибернетика".

Answer 6

[xmoonlight]

Вопрос: зачем давать выбор машине (естественно, на основании каких-либо данных), а не дать волю случаю?

Воля случая - это умышленно не давить на тормоз и не использовать информацию о дорожной ситуации и информацию от других участников дорожного движения?!
Немного, странно... Не правда ли?!

Под "машиной" - возможно, имеется ввиду совсем не транспортное средство, и уж точно - не какой-либо автоматический алгоритм принятия решений, а значительно более "глубокий" смысл...
Но какой?... Вот, в чём весь вопрос!

Answer 7

[Saboteur]

Потому что хотят сделать автопилот, а для этого автопилот должен будет управлять автомобилем в том числе и не в стандартных ситуациях.
Если производитель просто напишет софт, который решит что надо давить бабушек, производителя засудят родственники бабушек.
А если алгоритм будет утвержден со стороны правительства, то производитель скажет, что "мой автомобиль в данных условиях сделал все согласно закону".

Comments

[xmoonlight]

Главное - чтобы родственники бабушек смогли это проверить!)

Answer 8

[Александр Скуснов]

Решение в ПДД: просто затормозить (не меняя полосы движения), по возможности объехать препятствие или плавно съехать на обочину (не в кювет). Т.е., если возможности объезда нет (другие люди или встречные машины), то не рулить.
Микропроцессор чем хорош: люди неправильно формулируют вопрос. Не может микропроцессор увидеть два препятствия ОДНОВРЕМЕННО. Хоть на миллисекунду, но события придут последовательно. Поэтому - правило очереди: первый пришёл - первого обслуживаем. Т.е. цель - спасти первого пешехода. Но перед тем, как рулить, машина должна выбрать безопасное направление. На безопасном поначалу направлении впоследствии (пусть через долю секунды) возникает второй человек. Вот тут машина понимает, что человеческие правила были умнее её алгоритма и кого сбивать уже не важно. (наверное, второй раз она не будет рулить и собъёт второго)
Приоритеты по возрасту, полу, красоте и т.д. в расчёт не должны браться, только по количеству.

Comments

[Сергей Соколов]

xzdshr в комментариях к вопросу предположил зловредных психов, выпрыгивающих на дорогу, чтобы сыграть в русскую рулетку. Если такие психи объединятся в кружки по интересу и станут выпрыгивать на автостраду сразу группами по N психов, шансы, что автопилот увезёт законопослушного хозяина в бетонную стену значительно возрастут.