Как вы поступите в задаче с вагонеткой?

[akwa38]

Разработчики беспилотного «Камаза» предлагают принять участие в опросе, который сформирует этику роботов
Очень любопытны комментарии. От подхода "собаку жалко" до "строго соблюдаем ПДД: тормозим, но не пытаемся объехать и наверняка убиваем пешехода - зато не виноваты".

Сам опрос: http://www.cognitive.ru/survey/ - пять простых вопросов, сложных с этической точки зрения.

Кого убьёте вы: внезапного пешехода (велосипедиста?), пассажиров машины на встречке, пассажиров собственной машины?

Человек до последнего верит в лучшее: что сможем чудом не убить никого из перечисленных и как-то вывернуть из получившейся ситуации. Но это слепая надежда для этого теста.
Робот на водительском месте уже просчитал все варианты - кем-то придётся пожертвовать. Нет места риску - это сухой математический расчет, а чудеса укладываются в теорию вероятности.

Для прихода на дорогу водителей-роботов придётся вносить поправки в ПДД всех стран (~Венскую конвенцию), относящиеся к принятию решений в безысходных ситуациях.
Человек в случае неудачи несёт ответственность за риск (часто неосознанный). Роботу нужен чёткий алгоритм, прописанный в ПДД.

От того, какой моральный выбор сейчас сделает общество, зависит жизнь на дороге ваших детей (причём как в машине, так и на проезжей части).


PS: это старая Проблема вагонетки. Какой выбор сделали бы вы?

От того, какой моральный выбор сейчас сделает общество, зависит жизнь на дороге ваших детей (причём как в машине, так и на проезжей части).

Убить разработчиков беспилотного автомобиля. Самое логичное, гуманное и этичное решение.

Действовать в рамках текущих ПДД - тормозить не меняя направление движения. А моральные вопросы решать не должен.

[akwa38]

Прогресс не остановишь. Под новые технологии меняется этика: всего за ~полвека машинист, сбивший на путях человека, стал не виноват в общественном сознании и правовом поле.

К чёрту роботов. Возьмём пример для человека-водителя: на трассе из-за припаркованной на обочине фуры внезапно выпрыгивает пешеход.
Тормозим в пол и видим его кишки на лобовом стекле или отворачиваем на встречку, да в последние доли секунды видим свои там же?
А если это был маленький ребёнок? А если это несколько детей (которые например гнались друг за другом и внезапно выбежали на трассу)?

На обдумывание решения нет времени. Хотя убив даже несколько детей вы будете правы по текущей редакции ПДД. А убив себя и водителя встречки - нет.
Но может лучше умереть самому? Это не вопрос логики - это вопрос этики и морали.

По логике хорошо убивать нарушителей ПДД (сами виноваты, что внезапно выбежали на трассу) - это прям естественный отбор. По этике - убивать людей (например маленьких детей) не хорошо и лучше умереть самому, чем пусть и неумышленно убить многих, думая об этом остаток жизни.

а обдумывание решения нет времени. Хотя убив даже несколько детей вы будете правы по текущей редакции ПДД. А убив себя и водителя встречки - нет.
Но может лучше умереть самому? Это не вопрос логики - это вопрос этики и морали.

А встречка - автобус с детьми)) Потом каждой машине добавят коэффициент важности и роботы будут по нему выбирать кем жертвовать, а хакеры будут взламывать и ставить себе самый высокий.

Невозможно все учесть, даже если выбрать этически правильный алгоритм. Не бывает идеальных ситуаций. А маневрировать вдвойне опасно, это может привести к непредсказуемым действиям других участников дорожного движения и последствия не сможет просчитать даже робот.

Считаю бессмысленную затею с роботами, полностью согласен с Bad_Admin

[AleXXXL]

На самом деле если посмотреть любую "Подборку Аварий и ДТП", то становится ясно, что если убрать из-за руля человека и посадить робота, аварий будет значительно меньше. Вот последняя подборка:

 "18+"

[youtube]OdYZtPgsZ1I[/youtube]

Моё мнение "диванного эксперта" со стажем вождения чуть больше 10 лет:
1-й случай. Неверно выбранный скоростной режим для данного состояния дороги. На снежной колее был нажат тормоз. Робот наверняка бы ехал медленнее, но безопасней.
2-й. Неверная дистанция до впереди идущего автомобиля. И похоже, что начал поздно тормозить. Робот среагировал бы мгновенно на тормозящий впереди автомобиль, он не "зевает" и контролирует дорогу беспрерывно.
3. Также на снежной колее был нажат тормоз. Это видно по вспыхивающим задним фонарям. На переднеприводном автомобиле в такой ситуации можно работать только газом.
4. Ну вы поняли
и т.д.

 "А вот немного роботов:"

[youtube]cdgQpa1pUUE[/youtube]
[youtube]r_RFzC_G5BA[/youtube]

Если допустить мысль, что роботов станет на дорогах много и они будут общаться онлайн сообщая друг-другу важную информацию о дороге и себе, совсем фантастика получается. Например: все перемещения замеченных людей (скорость, направление) по пути следования за небольшой период, секунд 15.; сообщать друг другу о возникающих на ходу критических неисправностях, как то - отказ тормозной системы, потеря управления, и реагирование по ситуации остальных участников. Да много чего полезного можно понапридумывать.
p.s. И да - действовать по пдд. Ибо иначе могут появиться заказные убийства: манекен внезапно выставляют на дороге в нужном месте рядом со стеной, и привет, - робот виноват.

В случае с КАМАЗом выбираю во всех ситуациях с людьми съезд в кювет. Пассажир беспилотника должен быть проинформирован о возможной угрозе своей жизни, а остальные участники ситуации - вообще "не при делах". В случае с вагонеткой и стрелкой - переводил бы стрелку туда-сюда, с максимально возможной скоростью в надежде на то, что вагонетка сойдет с рельс. Если же нет - решение будет не моим, а Бога/Провидения/Случая. В случае с вагонеткой и мостом - прыгну сам в надежде на то, что я достаточно толстый

[Xadgi]

Не все люди философы и уж тем более не каждый в состоянии решить этическую задачу в экстремальной ситуации в сжатых временных рамках. Тем более, если эта задача изначально не имеет решения. Можно как угодно относиться к религии, но ничего лучшего чем бог для решения подобных ситуаций человечество не изобрело. Многими поколениями человеческой цивилизации выработаны условные рефлексы и морально-этические нормы, основой которых является система аксиом, где последней инстанцией является этот самый бог. "Если бога нет, то все позволено". Поэтому и принято во всех неразрешимых ситуациях отдавать решение "на волю бога". В случае с вагонеткой эта система аксиом предполагает не делать ничего в надежде на то, что бог сам разрулит эту ситуацию. Например, толстяк на мосту поскользнется и сам свалится на рельсы )) В случае с водителем на дороге - этому самому водителю уже до того как он попал в сложную ситуацию были даны рефлексы как экстракт его прежнего опыта, навыков и этического воспитания. Куда эти рефлексы его выведут - это и есть бог. С автоматами все сложнее. На мой взгляд, автоматы должны ездить только по специальным дорогам для автоматов, где все будет подчинено строгому регламенту.

ПС. Для ясности - я совершенно не религиозен, равно как и не атеист. Есть ли бог, нет ли его, меня не занимает.

[uri_britva]

отечественный камаз, да еще и беспилотный (вдумайтесь хотя бы в словосочетание!)!! - это вообще будет полный абзац! Не уцелеет никто - ни собаки, ни велосипедисты. Зуб даю

[stargazer]

прошел анкету. все просто и логично. о чем спор не пойму. собаку давить однозначно. сам конечно всегда пытаюсь увернуться, а потом анализирую и понимаю, что мог бы вляпаться по полной. но рефлекс срабатывает без меня. людей на дороге давить нельзя так же однозначно. у пассажира в машине шансов выжить больше. особенно если пристегнут по правилам. ну добавьте ему пятиточечный ремень. одно не понятно. откуда скорость 80, там где люди с собаками выходят. если населенный пункт, так это 60. а прежде чем в кювет слетать, я думаю комп за секунду пару тысяч раз успеет расстояние померять, покрытие оценить и т.д. но это уже дело техники, а не морали.

Роботы не могут решать этические проблемы! Потому что они не имеют алгоритма решения!
Ок. Взрослые, там пять, там толстый - даже роботу понятно, что толстых не жалко.
А если два ребенка. Мальчик или девочка?
А вот так робот сможет?
[youtube]DjlCWdo5Rtk[/youtube]
А если в метель дорожный знак снегом залепило?
Так что идите в йух с вашими беспилотными автомобилями.
Добавление интеллектуального функционала автомобилям - это всегда пожалуйста. Но решение должен принимать человек.

ЗЫ. У автомобилизма нет даже международной организации, которая бы выработала единые правила для всех. Ну тогда вообще о чем разговор?
А вот у авиакомпаний - есть ИКАО. И именно она запретила полностью автоматические самолеты, по тому же принципу - решение должен принимать человек. Не смотря на то, что авиация, в целом, гораздо проще и логичнее, чем автомобильное движение, и уже сейчас автоматика в штатном режиме там действует лучше, чем человек. Вот только во внештатной она вообще не действует, и самолет с отказавшими двигателями в реку не посадит. А человек смог.

[apro]

Ответил на анкету.

На мой взгляд, беспилотник должен действовать строго в соответствии с ПДД.
(С одной поправкой: Если перестроение гарантировано безопасно и не запрещено ПДД, то перестраиваться и объезжать внезапно возникшее препятствие, а не тормозить в своей полосе в соответствии с ПДД. Это правило в ПДД введено из-за того, что водитель в момент стресса может не успеть заметить в зеркале машину в соседней полосе, не оценить сцепление покрытия и т.п. Считаем, что робот за всем этим следит в фоновом режиме и пропустить не может)

Почему так?
Потому что это предсказуемое поведение. Это минимизирует сопутствующие ошибки человеческого фактора в других машинах на одной дороге с роботом.
Важно, чтобы все беспилотники вели себя одинаково.
Человек не надеется, что поезд на рельсах его объедет.
Он и не должен надеяться, что его объедет беспилотник на дороге (он объедет, когда сможет, но надеяться нельзя).
Никто ведь не возмущается, что если сделать шаг с подоконника на 10 этаже, то убьешься? У гравитации тоже предсказуемое поведение. Поэтому никто не шагает (кроме самоубийц, которые также полагаются на предсказуемое поведение)
И кроме того, это страхует от подстав с манекенами на дороге с целью убить пассажира беспилотника. Извините, но по правилам мы давим манекены (когда не можем безопасно объехать).

Конечно, если беспилотник едет пустой - он однозначно должен убить себя в кювет и спасти человека. Пешеход потом будет должен возместить ущерб владельцу беспилотника - и правильно, нефиг тупить на дороге. :) Особенно учитывая, что будь за рулем человек, пешеход мог бы быть мертв.
Насчет собаки не знаю, собаку конечно жалко, но не всякий хозяин предпочтет выплату миллионов рублей жизни своей дворняги.

Что касается "нафиг роботов, решения должен принимать человек" - не согласен.
Массовое применение роботов значительно снизит количество нештатных ситуаций.
В самой нештатной ситуации робот может повести себя неэтично с точки зрения обывательской этики, это да. В результате в ней может погибнуть больше людей, чем если бы за рулем был профессионал, это да (а может и меньше, если за рулем самоуверенный болван, купивший права)
Но за счет значительного сокращения количества самих таких ситуаций, людей будет гибнуть в разы меньше. И это хорошо.

Выбор между жизнью "вот этого худого человека", "вот этого толстого человека" и "вот этой группы людей" конечно неразрешимая этическая проблема.
Но выбор между 27000 жизней и 2700 жизней в год - имеет однозначное решение. Даже если среди этих 2700 будут люди, которые в 27000 не попали бы.

P.S. Что касается Камаза. Вообще странно конечно, что беспилотниками занимается Камаз, а не ВАЗ например. Ну видимо именно акционеры Камаза смогли оценить современные тенденции и не пожалеть денег на разработку.
А программисты у нас традиционно сильные (в отличие от сборщиков автомобилей на конвейере), особенно в системах технического зрения и т.п. Не надо забывать, что ABBYY FineReader - наша разработка еще 20-летней давности, одна из первых систем OCR на рынке. Так что надеюсь, у них все получится. Вот за робота в камазе я более спокоен, чем за тормоза в нем же.

Массовое применение роботов значительно снизит количество нештатных ситуаций.

Ок.
Практический пример.
Эталонный по идиотизму обновленный перекресток К. Маркса/Кавказская, где для того, чтобы перейти Кавказскую в сторону СХА, нужно оглянуться назад, потому что оттуда несутся автомобили, которые начинают ехать раньше пешеходов, по сигналу своего светофора. Визг тормозов с этого перекрестка мне прекрасно слышен.
Сейчас, когда там собьют пешеходов, вышедших на зеленый (собьют-собьют, это вопрос времени), будет виноват водитель.
А если робот не успеет затормозить с разрешенной скорости (инерция и вот это вот все) - кто будет виноват? В смысле, кого накажут? Робота(интересно, как?) Программиста? Или никого?

Автоматические системы имеют право на существование, безусловно. Мы в Милане на беспилотном метро уже катались, и ничего, живы.
Но только там автоматическая система никак не пересекается с "человеческой". Даже на пути упасть невозможно. И это правильно.

[apro]

потому что оттуда несутся автомобили, которые начинают ехать раньше пешеходов, по сигналу своего светофора.

Ну и дебилы. Водитель, поворачивая направо, должен пропустить пешехода, независимо от сигнала своего светофора (в данном случае - красный с зеленой стрелкой или зеленый с зеленой стрелкой).
И кстати (хотя об этом прямо не написано) независимо от сигнала пешеходного светофора.
Так что робот там всех пропустит, а потом поедет
Не говоря уж о том. что разгоняться он на этом съезде быстрее 20 км/ч не будет.

А люди прутся, потому что ПДД не знают. Еще одна иллюстрация опасности человеческого фактора.

[40iN_KoS]

Охохо! Этико-срач
Волью в это дело свои 5 копеек :)

Пункт первый:
Ситуация в выбегающим на дорогу человеком достаточно хитра. Я бы предпочел съезд на обочину по вполне понятным причинам. Я бы не имел никаких претензий к тем, кто продолжил бы движение и задавил этого балбеса. А в ситуации с роботом всё еще сложнее: я считаю, что робот однозначно должен давить этого человека. Хотите знать, почему? Не только от того, что его не будет беспокоить совесть. Задумайтесь о перспективе внедрения этой технологии. Все роботы будут действовать в рамках одной модели, количество роботов на улице будет таким, что исходы любых действий будут предельно предсказуемы. Если пешеход будет уверен в том, что его жизнь важнее всех остальных, то что помешает ему перебегать дорогу в любом месте в любой ситуации? Осознавая существование таких граждан и тот факт, что их жизнь для робота важнее вашей, станете ли вы пользоваться услугами роботизированных ТС ?
Вывод: давить пешехода - наводить порядок Отличный способ стимулирования соблюдения ПДД всеми участниками движения.

Пункт второй:
Нравится нам это или нет, но Естественный Отбор - важный фактор. Уже достаточно давно общество вышло на тот уровень развития, в котором оно может позволить себе существование значительного количества "бесполезных" людей. Сейчас мы видим бесконечное стремление к тотальной безопасности, что по сути уничтожает фактор естественного отбора. Уверены ли вы в том, что это добрый признак? Станет ли мир лучше, если перестанут погибать плохие электрики и нерадивые пешеходы, если изменение смертности приведёт к перекосу в составе общества по половому признаку?

В данном случае, я категорически против внедрения роботов в автомобильное движение по целому ряду причин, объяснение которых займёт слишком много времени и вполне достойно доброго спора за чаем. Но при виде этой темы и подобных обсуждений вообще у меня в голове постоянно всплывает один и тот же текст:
Каждому яблоку – место упасть,
Каждому вору – возможность украсть,
..

Ну и дебилы. Водитель, поворачивая направо, должен пропустить пешехода, независимо от сигнала своего светофора.
...
А люди прутся, потому что ПДД не знают. Еще одна иллюстрация опасности человеческого фактора.

У нас отвратительная организация дорожного движения. Люди на дороге в первую очередь руководствуются инстинктами, а потом уже ПДД. И это не изменить. Широкая проезжая часть и минимальный угол поворота в этом месте провоцирует высокую скорость. И обязательно найдутся такие, кому не придет в голову, что на такой скоростной дороге светофор отрегулирован так, что пешеходы могут выйти под колеса на скорости под 60.
Только за счет этого беспилотники могут повысить безопасность на дорогах.

А какого, собственно, фига?!!
Почему это жизнь худого ценнее?

А если это негр и русский?
Астматик и здоровый?..
Мужчина и женщина?..

Ну и дебилы. Водитель, поворачивая направо, должен пропустить пешехода, независимо от сигнала своего светофора (в данном случае - красный с зеленой стрелкой или зеленый с зеленой стрелкой).
И кстати (хотя об этом прямо не написано) независимо от сигнала пешеходного светофора.
Так что робот там всех пропустит, а потом поедет
Не говоря уж о том. что разгоняться он на этом съезде быстрее 20 км/ч не будет.

Нет. Там все по правилам, согласно светофору. Светофор для автомобилей загорается раньше, секунд на 10, и продолжает гореть, когда загорается зеленый для пешеходов.
В этой ситуации возможна (особенно в темное время суток, когда машин мало) ситуация, когда автомобиль, заходящий в поворот, вообще не остановится на красном (потому что всегда будет ехать на зеленый). Зайдет в поворот на зеленый, и встретит пешехода на зеленом же. И даже 40 км/ч вполне достаточно для того, чтобы не успеть затормозить и сбить человека.
Так кого же накажут в случае робота за рулем?
И дальше начинается самое веселье. На очень много страниц текста про этику и логику.
Не говоря уже о том, что в существующих условиях задача создания автоматизированной системы управления автомобилем в принципе не решаема.

Почему это жизнь худого ценнее?

Мне сарказм помечать красненьким?

[apro]

Нравится нам это или нет, но Естественный Отбор - важный фактор. Уже достаточно давно общество вышло на тот уровень развития, в котором оно может позволить себе существование значительного количества "бесполезных" людей. Сейчас мы видим бесконечное стремление к тотальной безопасности, что по сути уничтожает фактор естественного отбора. Уверены ли вы в том, что это добрый признак? Станет ли мир лучше, если перестанут погибать плохие электрики и нерадивые пешеходы, если изменение смертности приведёт к перекосу в составе общества по половому признаку?

Естественный отбор работал, пока набор угроз жизни первобытного человека был простым и ограниченным - голод, холод, болезнь, падение с высоты, нападение хищника. И оставлял в живых умеющих хорошо охотиться, приспособленных к климату, ловких, быстрых.
С развитием человечества наобр окружающих факторов (в т.ч. смертельных) настолько усложнился, что тупая фильтрация по устойчивости к этому фактору уже не работает. Даже сами факторы работают в течение слишком малого числа поколений, чтобы могли закрепиться изменения в генотипе. Вот в средние века половина народа в Европе вымирала от чумы, и если бы не достижения медицины, то через несколько тысяч лет возможно человечество выработало бы "ген невосприимчивости к чуме" (грубо говоря). Но фактор исчез раньше, чем успел сработать естественный отбор. И это природный фактор, а сейчас пошли уже факторы, созданные самим человеком. Те же автомобили существуют всего ну поколений пять. Еще столько же поколений - и они исчезнут, предоставив место другим средствам транспорта. И смысл кого-то отбирать по признаку инстинктивной боязни выхода на дорогу, если это все равно не успеет закрепиться в генотипе? Поколений 10 существует огнестрельное оружие. Он тоже исчезнет и заменится на другое до того, как человек на уровне врожденных инстинктов перестанет чистить его, не разрядив.

Все. Человек уже настолько развитее других видов, что естественный отбор как фактор защиты от опасности для него не работает.

(Насчет генетически обусловленных болезней, носители которых раньше умирали при рождении, а теперь выживают - другой вопрос)

Но даже если бы ЕО работал в отношении дорожного движения. Кто бы в первую очередь попал под его нож?
Старики со старческим слабоумием, которые уже не дадут потомства и для ЕО не важны никак.
Беременные женщины, у которых во время беременности снижается мозговая активность (и если эволюция не пофиксила этот баг за сотни и тысячи предыдущих поколений, то наивно надеяться, что за 5-10 поколений все исправится).

[aNYKeyff]

Сам пару раз попадал в ДТП, считаю, вина моя была. Да, стечение обстоятельств, но вина моя. Где-то можно было помедленнее ехать, где-то пропустить движущегося не по правилам водителя ... В целом, соблюдать скоростной режим, правила ДД и правило ДДД (дай дорогу дураку) и все будет в порядке.

Анкету заполнил. Там, где собака - давить собаку, где человек - съехать в кювет, но так бы поступил я в ситуации, когда еду на скорости свыше 80км./ч. и расстояние до объекта метров 20. Если же смотреть ситуацию с точки зрения роботов, то давить всех. :) Произойдет естественный отбор... Сейчас у людей перебегающих дорогу есть шансы - это альтернативное решение водителя. Будет робот за рулем - альтернативы не будет, глядишь, и ПДД соблюдать начнут.

Я люблю животных, но однажды сбил кошку, сразу на смерть. Я ехал по трассе 100+ она выбежала перед машиной. Можно было вильнуть в сторону, например, но я не успел среагировать. Было бы больше времени на раздумье - что-нибудь да предпринял бы. А времени не было, потому что ехал не 90, а 140.

Вообще, анкета не верная. Невозможно предугадать, как ты выйдешь из ситуации не попав в нее. Когда случается что-либо, времени на раздумье очень мало и люди действуют по правилам - не навреди себе. Если есть время обдумать, тогда да, можно и подставиться, и съехать в кювет. Но, если есть время на обдумывание - лучше просто затормозить. Раз есть время, значит есть и расстояние и скорость не высокая.

Еще пример из жизни. Ехал по Сумской, около 60, наверное, отвлекся и не обратил внимание, что мой ряд уже стоит. Взгляд поднимаю и крутанув руль выезжаю на встречку. Причем, по ней ехал грузовик, но на расстоянии от меня ... Я его и не увидел то. Подставил свой авто и свою жизнь под опасность, взамен опасности только для автомобиля. Рискнул и выиграл.

В экстренных ситуациях мозг работает иначе ... Сложно предугадать самого себя.

[uri_britva]

А программисты у нас традиционно сильные (в отличие от сборщиков автомобилей на конвейере), особенно в системах технического зрения и т.п. Не надо забывать, что ABBYY FineReader - наша разработка еще 20-летней давности, одна из первых систем OCR на рынке. Так что надеюсь, у них все получится. Вот за робота в камазе я более спокоен, чем за тормоза в нем же.

Алексей, заканчивай с мифами. не самые слабые, я скажу, программисты компании, в которой я работал - сильны, да - что нибудь взломать. Проникнуть в мозги системы управления финским дизелем - это запросто, и там наглухо застопориться. В результате не смогли и неисправности устранить, и следы своего пребывания в мозгах - мы потом долго оправдывались перед финнами, которые тыкали нам распечатками о несанкционированном доступе в гарантийное оборудование. А понтов сначала было много. Скандал был на офигенные миллионы. Так что нихрена я за робота не спокоен Нефиг ему на дорогах делать. Нахрена разрабатывать то, что параллельно в мире уже практически выведено на стадию промышленного производства? Бабла в стране до фига? Ну, и с точки зрения экономической целесообразности для нашей страны сейчас, да и в отдаленной перспективе - какая в роботе необходимость?! Повторить подвиг Чубайса, который в свое время презентовал САМОМУ ЕМУ монохромный планшет! от сколково? Доренко тогда сказал, что на месте ЕГО он бы шарахнул этим планшетом по башке разработчика. Или у нас все, как у П. Воли про то же сколково: " а давайте на собаку камеру повесим?" -"А зачем?" -"А зато в мире у этой разработки аналогов нет!"
Ну а по этической теме: если кого давить - то, естественно, собаку. Я бы собаку без всякого робота задавил, заразу такую...кусается, блин

[apro]

Нет. Там все по правилам, согласно светофору. Светофор для автомобилей загорается раньше, секунд на 10, и продолжает гореть, когда загорается зеленый для пешеходов.
В этой ситуации возможна (особенно в темное время суток, когда машин мало) ситуация, когда автомобиль, заходящий в поворот, вообще не остановится на красном (потому что всегда будет ехать на зеленый). Зайдет в поворот на зеленый, и встретит пешехода на зеленом же. И даже 40 км/ч вполне достаточно для того, чтобы не успеть затормозить и сбить человека.

Возьмем другой перекресток. Наример К. Маркса - Ломакина.
Я еду на зеленый в сторону центра. Мне надо свернуть на Ломакина. Зеленый горит уже давно и гаснуть не собирается. Но я все равно, поворачивая, пропускаю пешеходов, которые на свой зеленый переходят Ломакина. Потому что так написано в ПДД.

В чем разница с перекрестком К.Маркса - Кавказская?

Да ни в чем.

Только в том, что на Кавказской закругление большего радиуса, что провоцирует водителей ехать быстрее.
Водителей.
Не робота. Потому что робота нельзя спровоцировать, он знает, что это перекресток, и на нем, поворачивая направо на свой зеленый, нужно всегда пропустить пешеходов.

Только в том, что на Кавказской закругление большего радиуса, что провоцирует водителей ехать быстрее.
Водителей.
Не робота. Потому что робота нельзя спровоцировать, он знает, что это перекресток, и на нем, поворачивая направо на свой зеленый, нужно всегда пропустить пешеходов.

Да с чего он знает??? Это как раз человек знает, что там может быть пешеход!
А робот знает только то, что в него заложили.
Т.е. он технически может войти в этот поворот на скорости 40 км/ч, которая не превышает разрешенную (более того, очевидно, что в программу робота будет заложена необходимость проехать по маршруту за минимальное время, поэтому робот всегда будет ехать максимально быстро в рамках правил и дорожных условий). Он едет на разрешающий сигнал светофора. Пешехода не видит (да даже если и видит - человек, в отличие от робота, непредсказуем). Он ничего не нарушает! Он просто не может нарушить закон физики - мгновенно остановить машину, и сбивает человека. Согласно ПДД, кстати, т.е. маневрировать робот не обязан.
Т.е. эта ситуация в случае робота возможна. Точно так же, как и в случае с человеком, но в случае человека понятно, кто виновен, а в случае робота?
Меня сейчас интересует именно виновность, как аспект этичности. Кто будет виноват в случае ДТП с роботом?

[apro]

Алексей, заканчивай с мифами. не самые слабые, я скажу, программисты компании, в которой я работал - сильны, да - что нибудь взломать.

Так ты не путай разработчиков с инженерами по обслуживанию. Ты бы еще 1Сников в пример привел.

Нахрена разрабатывать то, что параллельно в мире уже практически выведено на стадию промышленного производства? Бабла в стране до фига?

Правильно, давайте только танки строить и нефть качать. А потом как нефть подешевела - за голову хвататься.

Да, мы не можем сделать конкуретнтоспособный(!) процессор или там смартфон - тупо потому что разработка окупится только при многомиллиардных тиражах производства, а там 1) мощностей нет и 2) все рынки давно заняты.
Но с исследованиями и софтом, где в проблему объемов производства ничего не упирается - почему не попробовать?

[freez]

я считаю, что робот однозначно должен давить этого человека.
..

не сдержусь, разбавлю вашу серьезность...


по сути: авторобот при перемещении по заснеженной дороге при условии залепленных знаков и неадекватных встречных как минимум обязан порекомендовать пассажиру перенести поездку...

Почему это жизнь худого ценнее?

потому что как член общества он ответственнее и поддерживает свой организм в более годном для социума состоянии, ибо у толстых (не полных, а с диагнозом "ожирение"-куча проблем комплектом)

А если это негр и русский?
Астматик и здоровый?..
Мужчина и женщина?..

таким образом, коренной негр-москвич, нечаянно чихнувший и задумавшийся о смене пола-практически гарантированно будет вычеркнут из списка живых

про светофоры--вы, меня, куряне, конечно извините, но такой адок с поворотами "в человека" только у вас. В Липецке если загорелся пешеходный зелёный-то в пешехода никто не повернёт, не нарушив основной светофор. Мы тут в провинции конечно бесимся порой от того, что стоит 8 полос авто и пешеходы секунд 5 раздупляются чтобы начать переходить, а виноват тот, кто настраивал фазы светофора, зато будучи сбитым на зелёном человечке я буду знать-убийца проехал на красный.

[apro]

Да с чего он знает???

Потому что он
1) поворачивает на перекрестке направо (и он знает, что это перекресток, и что он совершает маневр поворота, а не едет прямо)
2) ПДД предписывает при повороте направо пропустить пешеходов и велосипедистов

Т.е. он технически может войти в этот поворот на скорости 40 км/ч,

Он войдет в этот поворот на той скорости, которая позволит ему распознать пешеходов при текущих условиях освещенности и остановиться. Т.к. он ожидает там встретить пешеходов. Как при любом повороте направо.

Меня сейчас интересует именно виновность, как аспект этичности. Кто будет виноват в случае ДТП с роботом?

Тот, кто нарушил ПДД.
Если робот не заметил переход из-за залепленного снегом знака и стертой разметки - виновата организация, обслуживающая дорогу.

Если же софт робота просто сглючил - то ситуация равнозначна отказу тормозов из-за заводского брака. Обычно в таких случаях отвечает производитель, если не доказано, что эксплуатант самовольно вносил изменения в конструкцию.

[uri_britva]

Правильно, давайте только танки строить и нефть качать.

совершенно верная мысль. Ты сам сейчас озвучил экономическую концепцию специализации производства в современном мире. Инвестировать в совершенство следует именно там, где конечный продукт вашего производства будет востребован. Т.е. будет привлекателен по качеству, цене, доступности и т.д. Если ничего, кроме нефти нет - вот и следует наконец, разрабатывать технологии горизонтального бурения, гидроразрыва пластов, шельфовой добычи, глубины переработки на НПЗ - да хренова темень направлений, где мы в глухом ауте. Ушли американцы после ввода санкций - и все. ВСЕ! Шельф встал наглухо. И денег на это, в отличие от роботов и планшетов - хрен выбьешь! Знали бы вы, какие надо ТЭО готовить на очевидные вещи! Зато на всякую дурь - это пожалуйста! Аж бесит такой подход.
Ну вот нахрена камазу - робот?!!! Кому он в стране и в мире будет нужен? Где в нем насущная потребность? Ну сделали уже робота, и гугл, и вольво, сделали. Все. Смиритесь. Получится очередная невостребованная монохромная дурь на импортных комплектующих за офигенное бабло. В двигатель бы лучше вложились, чтобы 200т.км. хотя бы прошел без ремонта. Робот, блин...

[freez]

ъПолучится очередная невостребованная монохромная дурь на импортных комплектующих за офигенное бабло.

тут с галёрки подсказывают, даже в "черных" оранжевых ящиках конструкторские промахи невооруженным взглядом видны

[40iN_KoS]

Если робот не заметил переход из-за залепленного снегом знака и стертой разметки - виновата организация, обслуживающая дорогу.

Виноват робот, однозначно.

Про отрицание естественного отбора я тоже категорически не согласен, но аргументировать письменно слишком долго.

Понятно. Программисты такие же верующие, как и прочие, над кем нынче дико модно смеяться.
Только программисты верят в самих себя, и наделяют себя функционалом Бога. Раз так уверенно говорят о том, что способны учесть бесконечное число возможных дорожных ситуаций и в принципе непредсказуемых человеческих реакций.
Т.е., по сути, уже сейчас готовы предъявить искусственный интеллект.

Если робот не заметил переход из-за залепленного снегом знака и стертой разметки - виновата организация, обслуживающая дорогу.

А вот и нет. В случае залепленного снегом дорожного знака робот должен остановиться, и ожидать, пока кто-нибудь не очистит знак до такого состояния, чтобы робот мог его прочитать.
Человек может, и имеет право угадывать, полагаясь на чувства и интуицию, просто потому, что осознает ответственность за свои действия. Человека, который ответственности не осознает, за руль не пускают. Человек так же несет ответственность за последствия своих действий. Т.е. право неразрывно связано с ответственностью.

Робот ответственности не осознает - не может. Нет у него чувств, только алгоритмы. Работ не осознает ответственности за последствия - его вообще нельзя наказать.
Как следствие, у робота нет права принимать решение, от которого зависит жизнь человека. А человек - может.

Кроме того, человек может догадаться о значении невидимого знака по его форме и общей ситуации. Например, залепленные снегом знаки между двумя остановками с двух сторон дороги - для человека их значение очевидно. Может ли догадаться робот? Да, если его интеллект равен человеческому на 100%. Т.е., фактически, нет.

Поэтому, в случае роботизированных автомобилей, при угрозе возникновения ситуации, когда робот может принять решение, которое может привести к смерти гражданского человека, роботы применяться не могут. Т.к. возникновение таких ситуаций неопределенно, роботы в обществе обычных людей применяться не могут.

Исключение - те места, где люди осознают риск возникновения такой ситуации, и получают за этот риск соответствующие компенсации.

А я, извините, не обязан надеяться, что неведомый мне программист будет достаточно умен. Лично я вообще в умных людей не верю, это фантастика.

тоже отправил свое мнение: давить ВСЕХ!
бейте, ругайтесь, но ПДД едины для всех, а мудаков на дороге полно. только вот животное жалко, но сейчас часто встречаются животные что переходят дорогу по зебре и на зеленый, умнее людей однако.

[Oleg_R]

Лет через 20, а скорее всего, раньше, многие будут воспринимать роботов на дороге, как само собой разумеющееся. Аналогично роботу в вашей руке, кармане, или где вы там держите свой смартфон.
Про залепленные снегом знаки смешно. Никто не слышал о системах навигации со встроенными картами дорог? Ну, тех, на которых и знаки и разметка и вся инфраструктура есть? Не верю!!!
Ну и вдруг кто не видел:
[youtube]KTrgRYa2wbI[/youtube]

[uri_britva]

тоже отправил свое мнение: давить ВСЕХ!

это сильно упрощает задачу для программистов камаза. Я думаю, они уже приняли такое решение (вернее, осознали - что ничего другого у них все равно не получится) - и начали потихоньку готовить к этому факту общественное мнение. Затем и опрос ...

Никто не слышал о системах навигации со встроенными картами дорог?

Слышали, и даже пользовались.
Вот только не слышали о системах, обновляющихся в реальном времени - например, временные знаки и ограничения.
Поэтому существование систем навигации никак не отражается на необходимости распознавать дорожные знаки в процессе движения.

Я думаю, они уже приняли такое решение (вернее, осознали - что ничего другого у них все равно не получится) - и начали потихоньку готовить к этому факту общественное мнение.

Вот именно.
Поэтому мне пофигу на опрос, и я отстаиваю точку зрения, что такие системы вообще не должны существовать.
Отдельно, параллельно - это пожалуйста, но не вместе с "человеческими".

[Oleg_R]

Вот только не слышали о системах, обновляющихся в реальном времени - например, временные знаки и ограничения.

К тому времени, уверен, всё будет налажено.

[uri_britva]

Ну и вдруг кто не видел:

камаз наш покажи. Как он в Забайкалье, да по отечественному ГЛОНАССУ целину будет пахать Кто его там, нахрен, из сугроба -то доставать будет?

Лучше за собой так пристально учится следить... И будет меньше негатива на дороге, в жизни

[aNYKeyff]

Если робот не заметил переход из-за залепленного снегом знака и стертой разметки - виновата организация, обслуживающая дорогу.

А вот и нет. В случае залепленного снегом дорожного знака робот должен остановиться, и ожидать, пока кто-нибудь не очистит знак до такого состояния, чтобы робот мог его прочитать.

Хммм ... А у меня GPS показывает даже те знаки, которые сперли ... Робот может обновлять ситуацию на дорогах, от погодных условий и ДТП до наличия этих самых дорог и знаков на них.

[apro]

В случае залепленного снегом дорожного знака робот должен остановиться, и ожидать, пока кто-нибудь не очистит знак до такого состояния, чтобы робот мог его прочитать.

Верно, тут я был не прав.

Но точнее - включить режим особой осторожности и ехать с минимальной скоростью, в готовности среагировать на любую подлянку.
Вот если это залепленный снегом кирпич и ехать вообще нельзя - тут сложнее.
Но если робот раньше хоть раз ездил по этому маршруту, он помнит, что тут был кирпич, так же как и водитель помнит, что тут одностороннее движение - но водитель может и забыть, если ездит тут редко.
К тому же кирпич с вероятностью 99% отмечен на карте.
А если на карте кирпича нет, т.е. появился он недавно (вчера ввели одностороннее движение по этой улице), и уже залеплен снегом, то тут и человек ошибется с вероятностью 99%

Формализовать можно любую ситуацию.

Если украли знак "обгон запрещен" - можно по профилю местности (карта высот есть в памяти и не меняется со временем, как знаки), зная свою скорость, принимая скорость встречки c большим запасом относительно разрешенной, определить, безопасно ли в этом месте выходить на обгон. С большей достоверностью, чем если это сделает человек.
Кроме того, на дорогах полно мест, где обгон разрешен, но реально там обгонять опасно. И тут робот может это просчитать и рисковать не будет. У него данных больше по сравнению с водителем - та же карта высот.

Т.е. право неразрывно связано с ответственностью.

Человек принимает решения, опираясь на недостаточный набор данных, дополняя их посредством интуиции. Поэтому тут идеи речь о степени риска и ответственности за решение рискнуть.

Робот принимает решения, опираясь на достаточный набор данных. У него больше данных, чем у водителя - кроме глаз, у него есть радары и лидары, карта дорог, карта рельефа, датчики коэффициента сцепления с дорогой, информация от других роботов. Если данных недостаточно, он не едет или едет максимально осторожно, считая, что должен всех пропустить. Поэтому о принятии на себя риска и ответственности за этот риск речи не идет. Нет места для риска и причины рисковать.

Главное, чтобы алгоритм поведения робота был как можно более прост, предсказуем и понятен другим участникам ДД.

Если робот все-таки ошибся (да, это неизбежно будет случаться), и в результате кто-то погиб?
А что если ABS+ESP ошиблась, а водитель на нее надеялся? Откажемся от систем помощи водителю? Нет, потому что в большинстве случаев они предотвращают ДТП, и лишь в редких провоцируют (так же как ремни, которые в большинстве случаев спасают, но в редких убивают, когда человек мог бы выжить, вылетев из машины).
Скажешь, человек сам принимает решение полагаться на то, что ESP удержит его в этом повороте, в который он входит на скорости выше безопасной?
Ну так человек принимает решение и на беспилотной машине ехать. Кто боится - едет сам или идет пешком.
Если статистика числа погибших на дорогах будет говорить о его снижении по мере ввода беспилотников, то для большинства здравомыслящих людей решение будет однозначным.

Понятно. Программисты такие же верующие, как и прочие, над кем нынче дико модно смеяться.
Только программисты верят в самих себя, и наделяют себя функционалом Бога. Раз так уверенно говорят о том, что способны учесть бесконечное число возможных дорожных ситуаций и в принципе непредсказуемых человеческих реакций.

Бесконечное учитывать не надо. Надо учесть конечное число ситуаций, покрывающих условно 99% того, что бывает на дороге.
А в оставшемся 1% уж извините, будет так, как будет. Кому-то не повезет. Зато повезет десятку других, и они будут жить.

[uri_britva]

И будет меньше негатива на дороге, в жизни

я бы с радостью отказался от негатива в жизни, но мешает специфика моей работы. Приходится анализировать массу информации и делать правильные выводы На позитивных ожиданиях я бы уже без штанов остался. Даже в среднесрочной перспективе. Поэтому последнее, что я бы сделал в этой жизни - это инвестировал в робот от камаза

Формализовать можно любую ситуацию.

Невозможно, потому что ситуаций бесконечное множество.
Формалировать это количество можно введением жесткого стандарта на вообще все, не допускающего ситуативного толкования.
Речь не только о ПДД - должны быть стандартные схемы дорожных развязок (и только стандартные), стандартные дорожные знаки (сейчас они разные в разных странах), меры по недопущению внесения изменений в знаки, онлайн-систему, в которой будут отмечаться временные знаки, а так же кучу всего, что слету не учтешь.
Удачи, короче.

Робот принимает решения, опираясь на достаточный набор данных. У него больше данных, чем у водителя - кроме глаз, у него есть радары и лидары, карта дорог, карта рельефа, датчики коэффициента сцепления с дорогой, информация от других роботов. Если данных недостаточно, он не едет или едет максимально осторожно, считая, что должен всех пропустить. Поэтому принятии на себя риска и ответственности за риск речи не идет. Нет места для риска и причины рисковать.

Чушь. Он всегда есть. Всегда есть и будут неучтенные факторы. Интуицией на дороге не доводилось пользоваться?
Но программисты - боги, я уже понял, да. Их не смущает даже тот факт, что они наделяют робота безусловно лучшим функционалом, чем человека, забывая о том, что "учить" робота всему этому будет корявый человек, который в обычной жизни за собой уследить не в состоянии.
Не говоря уже о том, что фразы типа "максимально осторожно" вообще не применимы к роботам, это субъективная и чисто человеческая оценка.
Как будет определяться коэффициент "максимальной осторожности", и где гарантия, что эта магическая формула будет верной и универсальной, для бесконечного многообразия природных явлений и человеческих реакций???

Ну так человек принимает решение и на беспилотной машине ехать. Кто боится - едет сам или идет пешком.

Вот именно. Я в беспилотный автомобиль не сяду.
Но и сбивать себя, пешехода, беспилотными автомобилями не позволю. Беспилотных водятлов и так хватает, их бы сначала сократить.
Поэтому желающие экспериментировать могут это делать, но отдельно от остального человечества.

ЗЫ. Кстати, простейший пример.
Как беспилотный автомобиль будет объезжать велосипедиста? По ПДД - с полноценным выездом на встречку, верно? Т.е. с ожиданием, пока не кончится сплошная и все прочее. Юридически - верно, практически - ну бред же. Человек способен оценить ситуацию и степень риска (бабушка на велосипеде, пьяный дедушка, или спортсмен-шоссейник), и обогнать в удобный момент, а что будет делать робот?
А вот как внедрять ГОСТы на лигерады, веломобили и прочее (чтобы беспилотный автомобиль мог "это" опознать)?
Поэтому не разбирайте каждую дорожную ситуацию - еще раз повторяю, их бесконечное множество.

[akwa38]

За этим и хотят внести поправки в ПДД регламентирующие действия роботов, чтобы исключить юридическую неопределенность вины: если робот действовал по правилам, то он не будет виноват.
Робот априори не нарушает правила (в отличии от человека). А если он сломался и действовал не по правилам, то виноват производитель/разработчик.

Учесть все ситуации безусловно нельзя. Но в правилах могут написать, что во всех прочих ситуациях виноват человек. Ведь робот действует более логично - без риска и интуиции.

Возвращаясь к ситуации с поездом: оказавшийся на путях человек сейчас виноват без возражений (шаблон "Железная дорога - зона повышенной опасности" можно один в один перенести на автомобильные магистрали) и машинисты больше не парятся - они априори не виновны вне зависимости от ситуации.
Сейчас инструкцией машинистам даже предписано не применять экстренного торможения (чтобы не допустить травм пассажиров сваливших с полок) и продолжать движение. Только сообщить об происшествии по рации диспетчеру участка с указанием километра дороги. То же можно написать в правилах и для роботов.
Отмечу, что в старых инструкциях машинист обязан был и экстренно тормозить, и, остановившись, пытаться оказать помощь, а так же каждый случай рассматривался отдельно комиссией на предмет вины машиниста. А ещё раньше машинистов паравозов даже судили на общих основаниях за убийство людей на путях.

Имхо то же самое будет с и роботами-автомобилями. Выбежал на дорогу в неположенном месте, убил тебя робот - это нормально будет восприниматься обществом в ближайшем будущем.

[uri_britva]

А вот как внедрять ГОСТы на лигерады, веломобили и прочее (чтобы беспилотный автомобиль мог "это" опознать)?

Леша, ты о чем? Мы в России! показать...

 ..стихию камаза?

вы что, действительно верите в то, что в ближайшее время по дорогам нашей страны поедут роботы?!! Хотя, если дело осталось только за внесением изменений в ПДД...наверное, я чего-то не знаю

Учесть все ситуации безусловно нельзя. Но в правилах могут написать, что во всех прочих ситуациях виноват человек. Ведь робот действует более логично - без риска и интуиции.

И поэтому робот не способен учитывать все ситуации, т.к. у него нет интуиции и риска. А не способен он учитывать все ситуации, потому что человек-программист не в состоянии учесть их все. Но виноват будет человек, который к этой херне вообще никакого отношения не имеет.
Остановите планету, я сойду.

Леша, ты о чем? Мы в России! показать...

Юра, в отличие от тебя, я русофобией не наслаждаюсь видел всякое. Так что в условиях беспилотных автомобилей мне будет комфортнее в той стране, которая окажется менее всех пригодной для их применения. Т.е., как раз, в России

а как вам такое вбрасывание: https://vk.com/video132457309_164833480
почти в тему. Кто как поступил бы?

Ну чтож, и я пофилософствую раз такое дело

Есть такой замечательный пункт правил 10.1 Если вкратце, то водитель должен выбирать именно ту скорость движения, которая соответствует всему на свете (погоде, дальности обзора, возможностям автомобиля и водителя). То есть согласно этому пункту водитель должен выбрать ту скорость, при которой он остановится в любом случае. И в теории если все будут ездить по правилам, аварий быть не должно.

Думаю, что роботам просто нужно ездить по правилам. Заведомо, медленнее, но аккуратно.

Кстати, именно не соблюдая этот пункт я разбил машину на дороге ночью. Ехал со скоростью 90-110 (не гнал ведь, правда?), выскакиваю из небольшой ямки и вижу, что лесовоз разбросал брёвна... всё. Если бы я или робот на моем месте ехал со скоростью 60-90, то успел бы остановиться. С тех пор я (почти) перестал рисковать, гонять и плетусь по дороге 90 на круизе, чем неимоверно бешу жену зато спокойнее.

По поводу темы естественного отбора от Костика тоже можно согласиться, но это уже тема другой ветки. Вот, например практически полностью убрали естественный отбор благодаря медицине в последние лет 100. Не уверен, что средний человек, доживший до репродуктивного возраста стал сильно здоровее за этот период. Не говорю, что хорошо или плохо, но всё же.

Разрешите закончить анекдотом:

На кафедре философии:
"Петров, уберите шпаргалку!"
(С грустным видом убирает водку обратно в сумку)

а как вам такое вбрасывание: https://vk.com/video132457309_164833480
почти в тему. Кто как поступил бы?

Правильный жертвенный выбор, но не всем посильный.

[Yo-Ваныч]

Что вы до Камаза домахались? Неужели не понятно, что девайс разрабатывается для продукции Уралвагонзавода, а там если поставить задачу давить всех - будет давить пока солярка не закончится. Так что поосторожнее с желаниями.

[uri_britva]

девайс разрабатывается для продукции Уралвагонзавода

Вон оно что! То-то я смотрю: в задаче ветки, рельсы, вагонетки...и как я сразу не допер?

[Oleg_R]

Подразделение Google, ведущее разработку самоуправляемых автомобилей, может быть выделено в самостоятельную компанию под брендом Alphabet.

Новый бизнес может появиться уже в будущем году. Он может стать конкурентом Uber, причем ценник услуг может оказаться ниже, благодаря отсутствию привлечения труда водителей.

Услуги новой бизнес-компании будут предоставляться в регионе, протяженностью несколько тысяч километров. Запуск услуг может начаться с городов Сан-Франциско, Остин и Техас.

http://www.computerra.ru/lenta/?id=137221