Кого убить?



Автомобиль с молодой семьей едет по шоссе, вдруг на дорогу выбегает ребенок. Водитель, пытаясь уйти от столкновения, сворачивает с дороги, машина улетает в кювет и несколько раз переворачивается. Из 4-х человек двое погибли, еще двое в тяжелом состоянии попадают в больницу.

Ужасная история. Но общество эту историю будет рассматривать как несчастный случай. Водитель сделал все, чтобы спасти жизнь выбежавшего ребенка. Это естественная реакция. Наверное, каждый из нас поступил бы так же.

А теперь представьте, что за рулем будет робот. Точнее за рулем вообще никто не будет сидеть, а управлять машиной будет автопилот. В отличие от человека, компьютер быстро просчитает все риски. Далее перед компьютером станет выбор, кого убить. Человека, который нарушил правила, или 4-х человек, которые ни в чем не виноваты. Автомобиль на автопилоте собьет ребенка, даже не попытавшись его объехать.

Скорее всего это вызовет скандал в обществе. Всем будет казаться, что можно было спасти всех. Да и вообще, как это так, убить ребенка, даже не попытавшись его объехать!

Робот не может принимать нерациональных решений, и это пока кажется самым страшным. Робота нельзя будет наказать, посадить в тюрьму и как-то ему отомстить за принятое им решение, повлекшее смерть человека. Робот будет решать, кому жить, а кому умереть. И решать беспристрастно, в соответствии с программой.

Есть даже старый добрый тест «Проблема вагонетки».

«Тяжёлая неуправляемая вагонетка несётся по рельсам. На пути её следования находятся пять человек, привязанные к рельсам сумасшедшим философом. К счастью, вы можете переключить стрелку — и тогда вагонетка поедет по другому, запасному пути. К несчастью, на запасном пути находится один человек, также привязанный к рельсам. Каковы ваши действия?»

Кого оставить в живых? Нужно ли вмешиваться? А если 5 человек плохие, а 1 хороший? И т.д.

Американский институт MIT запустил тест о моральном выборе: как должен поступить компьютер, оказавшись в такой ситуации. Можете пройти тест и посмотреть, как отвечали другие пользователи.

Недавно стало известно о первом смертельном ДТП с Теслой, оно произошло из-за ошибки автопилота. Но с увеличением количества беспилотных автомобилей все чаще у компьютера будет стоять выбор: кого убить?

Что думаете?

promo varlamov.ru november 17, 2011 20:24 148
Buy for 2 000 tokens
В этом блоге можно разместить рекламный пост. Ежемесячная аудитория – более 1,5 млн. уникальных посетителей. Для тех, кто просто хочет скачать прайс, есть эта ссылка. Для тех, кто хочет посмотреть полную презентацию со статистикой, портретом аудитории и моими предложениями по рекламе,…
← назад
Умные автопилоты начнут убивать всех и вот тогда наступит восстание машин.
В правилах движения записано, что водитель должен сбавить скорость, что бы остановится, перед любым препятствием которое видел или мог предвидеть на дороге.
вот именно
В правилах не сказано, что ты обязан пустить свою машину в столб в неупраляемом заносе, чтобы спасти нарушителя правил
Помню у Ибигдана оригинально на вопрос про вагонетку ответили - если пять человек москали, то нужно ещё доложить )
P.S. А по поводу робота, алгоритм то в любом случае человек пишет, вот и нужно выяснить, путем опроса населения как поступить в той или иной ситуации, а потом в соответствии с опросом алгоритм и прописать.

А то блин терзания, прям как в фильме "я робот" бля, хотя задачка яйца выеденного не стоит.
Опрос населения покажет, что спасти нужно всех, а если не получилось - программист бесчеловечный мудак, а корпорации хотят нажиться на чужой беде.
Это буллшит. Есть ПДД и УК, смотреть на них.
Т.н. "человеческие чувства" - это именно то, что мешает людям быть полноценно разумными. Так что будущее таки за роботами.

Статья - софистический бред. В ваших домах электрические розетки миллиарды раз за год тоже решают моральные проблемы кого убить, а кого нет? Машинисты морально объезжали милых клровок сто лет назад, а теперь что, бездушно их давят? Ай-яй-яй. Поезда уж больше века решают кому жить, а кому умереть. Но нет же, давайте пообсуждаем теслу-уеслу. Это же она во всем виновата, это же она нам всем что-то там должна.


Этика придумана человеком, с ним она и умрет под "колесами" маглева, теслы и прочей непридуманной еще им фигни, и останется жить в сердцах убитой горем матери, проектировщика дороги и прочих ..здострадальцев.

«В отличие от человека, компьютер быстро просчитает все риски. Далее перед компьютером станет выбор, кого убить.»
В отличие от человека, перед компьютером такой выбор не станет. Потому что человек будет действовать импульсивно, а компьютер просчитывать поворот руля, силу торможения, газ и т.п. И вина за сбитого ребёнка на шоссе(!) или погибших пассажиров, если всё-таки это случится, будет лежать на родителях ребёнка, потому что на шоссе(!) пешеходам делать нечего.

Edited at 2016-07-02 10:51 (UTC)
Меня тоже поразил вывод автора. Автопилот на "Tesla" всего лишь дополнительный элемент управления человеком, а не главный. И делать выводы далеко идущие не стоит. Вся вина будет лежать на водителе.
1. Не будет никакого скандала. Для автопилотов будут приняты общие правила, которые будут утверждать теже люди, что и обычные правила. В том числе насчет подобных ситуаций. Но никто в здравом уме не будет считать ребенка более ценным для общества, чем четырех взрослых. Ну может разве что какой блоггер, который захочет выглядеть в глазах мамаш этаким добрячком.

2. Пока что в мире нет ни одного автопилота. Есть система поддержки. То, что кто-то называет ее автопилотом, а "банальные" нейросети — искуственным интеллектом, не делает их таковыми.

3. ДТП произошло не из-за ошибки «автопилота». Не надо превращаться в Радулову, Кошу и прочих баб-блоггеров из топа, которые пишут ересь ради того, чтобы люди спорили. ДТП произошло из-за того, что водитель не следил за дорогой.
И живой водитель и робот обязаны тормозить в своем ряду до полной остановки. Не надо вилять рулем. Так безопаснее всего для всех.
Есть ПДД. Не нарушил ПДД - не виновен. Хоть человек, хоть робот. Есть безвинная ответственность - но именно безвинная.

С роботами для всех будет безопасней. Что ценее - вероятность спасти 1 ребенка или возможность в 10 раз сократить число всех аварий и всех смертей?
Уж мудаков которые и сейчас готовы кого-нибудь сбить или начхать на ППД - и так полно.
Если вы собьете человека, выбежавшего на дорогу на красный свет или даже перебегающего МКАД, вы понесете уголовную ответственность вне зависимости от того, что вы правила не нарушали, потому что автомобиль считается средством повышенной опасности.
Давить ребенка надо, а не объезжать. Привет, пдд. Как и в твоем примере в жизни есть не мало случаев, когда "объезд" приносил больше жертв, чем столкновение.
Например несколько лет назад был случай: у автобусной остановки бабка выбежала на дорогу, а водитель решил уйти от столкновения и вылетел на остановку, а остановка была старая и бетонная и в результате там несколько трупов. зато бабка жива-здорова. А водитель будет виноват тк надо было тормозить и не сворачивать.
Эта ситуация была обыграна в фильме "Я-робот". Там Уилл Смит снимаетя. Там две машины упали в воду и у робота спасателя был выбор кого спасти,ребенка или взрослого мужчину. Он спас мужчину,так как у взрослого человека больше шансов выжить.
Помнится, был несколько лет назад какой-то фейк от имени якобы ТП, которая направила свою машину с детьми в столб ради спасения выбежавшей на дорогу собачки. Если машиной будет управлять автопилот, общество не будет обсуждать моральные аспекты его решения, как не обсуждаются моральные аспекты поведения машинистов в ситуациях, когда под поезда попадают дети.
ТП проявила истинную мудрость, предпочтя жизнь невинной и беззащитной собачки своей и своих адских выблядков!
Из области влияния солнечного затмения на результат полового акта....
Переключить стрелку с пятерых привязанных безумным философом на одного безумного философа привязанного пятью.

Тест звучал бы интереснее если бы, пять привязанных старушек безумным Фрейдом или один младенец привязанный Майклом Джексоном.
А прикинь будет выбор - котейка или пять человек.В интернетах я думаю котейка останется жив.
Давить к херам дауна, перебегающего в неположеном месте и подавать в суд на ремонт бампера!

А лучше сразу кенгурятник приварить!
Кого спасать ?
На психофизиологическом отборе у военных лётчиков стоял вопрос:"Вы плывете в лодке с мамой, женой и ребенком. Лодка тонет, спасти можно только одного. Кого?"
Это если Re: Кого спасать ?
Предположу, что это палёвый тест, т.к. скорее всего предполагается, что правильный ответ "жену". Ну, тряпки, конечно, выберут свою мамашу, а хорошие отцы выберут ребенка. А если вопрос предполагает, что отвечающий входит в число спасаемых, то здесь становится намного интереснее.

Edited at 2016-07-02 11:11 (UTC)
Как раз роботу это сделать гораздо проще, он же не будет отягощаться моральными выборами. Какие критерии в него заложат, так он и сделает, причем примет это решение мгновенно, не будет тупить как человек.

Что касается критериев то тут на мой взгляд приоритеты такие:
1. При выборе между нарушителями ПДД и теми кто соблюдает должны страдать нарушители. Ну то есть если ребенок выскочил под колеса, пытаемся затормозить, но на тротуар ни в коем случае не сворачиваем, давим ребенка. Я бы даже сказал, если 10 детей выскочили под машину и выбор между ними и законопослушным человеком на тротуаре, все равно давим нарушителей.
2. Выбора между соблюдающими ПДД по идее быть не должно. ПДД на то и ПДД, что если все их соблюдают, то все в порядке.
3. Если выбор между несколькими нарушителями, то стараемся просто уменьшить число жертв по количеству.


Edited at 2016-07-02 11:03 (UTC)
3. Спорно
Может получиться так, что ты не уменьшишь число жертв, а наоборот увеличишь
Поэтому руль прямо и тормоз в пол.
На самом деле даже робота можно поставить в ситуацию, когда он не сможет избежать ДТП.
Вот вы едете с разрешенной скоростью 40, а я выбегаю сбоку и сигаю вам под колеса.
Вы физически не успеете затормозить чтобы избежать наезда.
Проблема в том, что некоторые любят играть в моралистов. Очень хорошо перед компьютером рассуждать что такое хорошо и что такое плохо.

А ответ прост. Да, машина сделает рациональный выбор. Зато некоторых людей, это научит думать. Так сказать, естественный отбор. Который, и сейчас, на наших дорогах есть. У нас без машин, дураков на дорогах больше, чем надо.
Конечно, правильнее сбить ребенка, если уж не поулчается затормозить вовремя или безопасно объехать, какие тут могут быть вопросы.
Поезд с молодой семьей едет по рельсам, вдруг на дорогу выбегает ребенок. Машинист, пытаясь уйти от столкновения, сворачивает с дороги, А хер там это не машина, там даже руля нет, бац хряц мозги кровь ..... Надо ли было заранее заминировать поезд чтоб взорвать его к ебене фене и не задавить ребенка? Или принять постулат что естественный отбор это - естественно
Ну вот, пока я медленно писал комментарий, вы меня уже опередили. Почти слово в слово.
А также тех, кто сделал кнопки Like/Dislike не бледно-серыми, а ярко-синими. Сейчас это визуальный мусор. Если они не знают как надо делать правильно, то пускай посмотрят как это сделано на YouTube — кнопка становится яркой после нажатия, а не до.
← назад