2k
9 лет назад · 3 фото · 8615 просмотров · 286 комментариев
Ученые предложили выбрать, кого должен убить беспилотный автомобиль (3 фото)
Эксперты хотят понять, как научить самоуправляемые автомобили принимать правильные решения с точки зрения морали.
Представьте, что у вашего автомобиля отказали тормоза. И перед вами встаёт выбор: сбить переходящих дорогу пожилых людей или свернуть в сторону, задавив женщину с коляской. А что в такой ситуации должен сделать беспилотный автомобиль, задались вопросом в Массачусетском технологическом институте США. Ученые решили выяснить, как беспилотные автомобили должны решать вопрос о жизни и смерти, не идя в разрез с общественной моралью.
Для того, чтобы понять, как поступили бы люди в той или иной критической ситуации, сотрудники института разработали специальную игру «Moral Machine».
Тест доступен для всех желающих, в том числе и на русском языке. В игре моделируется ситуация, когда самоуправляемый автомобиль вышел из-под контроля, а искусственный интеллект должен сделать свой выбор.
Тест доступен для всех желающих, в том числе и на русском языке. В игре моделируется ситуация, когда самоуправляемый автомобиль вышел из-под контроля, а искусственный интеллект должен сделать свой выбор.
Всего в тесте представлено 13 ситуаций, в каждой из которых необходимо решить кого- пешеходов или пассажиров- оставить в живых. Авторы проекта намерены через ответы реальных пользователей понять, какая моральная оценка общества на то или иное действие. Это понимание, считают ученые, в будущем позволят смоделировать возможное поведение компьютера, управляющего беспилотником.
Например, пользователю предлагается выбрать кто из 2 двух людей – молодой или пожилой человек – должен остаться в живых, а на кого наедет автомобиль.
Кроме того, в тесте предлагается выбрать между жизнью человека и животного или жизнью водителя и пешехода.
На сегодняшний день Moral Machine набрала уже более 11 млн. возможных сценариев поведения.
Например, пользователю предлагается выбрать кто из 2 двух людей – молодой или пожилой человек – должен остаться в живых, а на кого наедет автомобиль.
Кроме того, в тесте предлагается выбрать между жизнью человека и животного или жизнью водителя и пешехода.
На сегодняшний день Moral Machine набрала уже более 11 млн. возможных сценариев поведения.
Я считаю, что пешеходы- пенсионеры, дети, мамы с колясками СОВСЕМ не виноваты в том , что у тачки отказали тормоза или еще что то. Они не должны РАСПЛАЧИВАТЬСЯ ЖИЗНЬЮ за ошибку инженеров. Твоя тачка, будь добр в кювет, в столб, в камаз или куда еще...
Нужно добавить функцию самоуничтожения ).
Дибильный тест. В кювет надо рулить и никого не сбивать. Если уж не уследил за исправностью авто, прими всё на себя. Может и повезёт, в кювете..
В городе нет кювета, как и ограждений зачастую нет, так что рулить получится на тротуар. А принимать решение что делать нужно исходя из ситуации, вариантов масса, но они не типовые к сожалению, человек может такое решение принять а вот машина хз
Может стоило бы добавить распознавание лиц. Тогда было бы немного проще (например, выбор между преступником и законопослушным гражданином)
Гм, вона как ... а я всю жизнь думал, что это только старый анекдот:
На занятиях в автошколе инструктор задает вопрос курсанту:
Ты минуешь поворот, и вдруг видишь, что перед тобой на дороге слева стоит бабушка, а справа юная девушка. Кого давить будешь?
Бабушку, после продолжительной паузы ответил курсант.
Идиот! Тормоз давить надо!
в варианте со стеной, однозначно в стену, потому как где гарантии, что это не последние пешиходы пока не остановится увязщи в горе трупов.
Убивать нужно тех, кто проектирует пешеходные переходы по трассе, а не под ней или над ней.
хотя бы вопрос почему на трасах нет светофора с кнопкой чтоб 1 красный свет был без всяких желтых и зеленых,всё равно везде жёлтые моргающие повесили
Почему бы не заставить машину остановиться в тот момент когда стало известно о поломке?
Раз робот автопилот несет ответственность за жизнь пассажиров, то он же должен следить за критическими узлами и механизмами автомобиля, все критические системы отвечающие за жизнь пассажиров и пешеходов Должны быть продублированы, а если это не возможно то должны быть проверенны до начала движения, допустим что какой то механизм вышел из строя в процессе движения, в критических ситуациях этих механизмов в авто не много, первым делом это тормозная система, ее можно продублировать хоть на все 4 колеса, по этому одновременно все тормоза сломаться не могут. Подушки безопасности, ну для них есть своя система тестирования, наверняка заранее можно знать сработает подушка или нет, заводской брак конечно ни кто не отменял, но эта вероятность стремится к нулю.
Отказ двигателя, блокировка двигателя, думаю эту ситуацию робот может отработать мгновенно, перевести коробку передач в нейтральное положение и затормозить штатным образом.
Отказ электрики, ну тут чисто механическое решение, переключение тормозной системы на механический вариант торможения автоматически и/или через педаль тормоза.
я возможно не все случаи перечислил, но уж автомобильные то гиганты знают их если не все то 99% неисправностей на дороге способных привести к аварийной ситуации, если эти алгоритмы запрограммировать в робота-автопилота, то выбора кого давить не будет вообще, потому как неисправная машина просто не доедет до того кого придется давить, она вообще не поедет.
Ну и последний аргумент, если владельцы авто доверяют свою жизнь автопилоту, который выбирает кому жить а кому умереть, то в первую очередь должны умирать владельцы автопилота, потому как у них был выбор доверить свои жизни автопилоту или нет, а вот у пешеходов такого выбора не было, по этому приоритет кого оставить в живых должен быть за теми кого не спрашивали.
Ну я вообще опасаюсь доверять свою жизнь и здоровье кому бы то ни было, кроме случаев когда этого нельзя избежать. А уж тем более автопилоту, который непонятно как и по каким алгоритмам работает и работает ли вообще.
на самолете не летали ни разу ?
Самолёт относится к ситуации "когда этого нельзя избежать" Я конечно мог бы написать более развёрнуто сразу но понадеялся что необходимости в этом нет. Разворачиваю, полёт на самолёте, и прочие подобные ситуации, это когда избежать можно но с большим ущербом для себя, т.е. в случае с самолётом это большая потеря времени, цена-риск, я делаю выбор. Это ж блин элементарные вроде вещи, всегда приходится чем то жертвовать в пользу чего то. В случае с автопилотом я бы в городе им пользоваться не стал, а вот на междугородних трассах воспользовался бы с радостью...
а я бы наоборот , больше доверял автопилоту в городе. картогрофирован город лучше, скорости меньше,информации о трафике больше, камер наблюдающих за дорогой больше + камеры других автопилотов (при условии наличия единого информационного пространства системы управления городскими автопилотами).
Ну каждому своё, я бы всё вами перечисленное в БК бы мониторил в онлайн режиме, с проекцией изображения на лобовое стекло.
Это то же самое что когда США проводят свои мирные бомбардировки , потом начинают считать процент погибших мирных . У америкосов нет такого понятия как мораль, есть только подсчет живых и мертвых. А то что автомобиль представляет из себя причину этих событий как то упускается из виду. Если есть возможность избежать наезд на пешехода надо его избежать любыми способами потому что пешеход не есть причина вашей глупости.
А вариант что пешеход оказался там, где его быть не должно, перебегал дорогу например, вы не рассматриваете? Не всегда водитель глуп, пешеходы гораздо чаще водителей нарушают ПДД. Водитель ПДД хотя бы обязан знать, а пешеход нет, и водитель несёт ответственность за нарушение и по закону и в жизни, а пешеход только на бумаге.
статья рассчитана на гуманитариев, технарю ответ вполне очевиден, машина с критической неисправностью ехать не должна!
Я за рулём ездил, всё бывает, но в случае с авто гораздо проще свести последствия ЧП к минимуму чем с самолётом, но водитель должен уметь конечно это делать и быстро соображать в случае с чп. Если есть желание можете смоделировать ситуацию, с машиной, не с самолётом, я самолётами управлять не умею, я вам скажу как бы я их неё выходил.
Ок. Ты едешь на джипе и из-за скрытого заводского дефекта, у тебя разламывается крестовина кардана заднего моста, со стороны КПП.
Кардан падает на асфальт , сответственно втыкается и зад джипа взлетает выше крыши. Машина опрокидывается и кубарем катится. Как ты выйдешь из такой ситуации ?
1 как эта ситуация относится к теме?
2 как должен разрулить ИИ
Из такой никак, вы меня уели признаю. Хотя при скорости 60 км ч, у нас же в городе такая разрешённая скорость, далеко джип не укатится, максимум два оборота, и не мгновенно опять же, люди успеют отскочить. Но вы правы да, тут я уже никак не повлияю, был не точен в формулировку т.з.
Ну хорошо. На дорогу внезапно выбегает пешеход и в тот же момент из под попутной машины вылетает болт и попадает под правое переднее колесо. Колесо лопается.
1. При попытке просто экстренно тормозить - машину неизбежно будет выносить влево на встречную полосу, под движущуюся фуру.
2. При более плавном торможении с подруливанием вправо и применением АБС, машина может избежать вылета на встречу фуре, но тогда тормозной путь сильно увеличивается и машина сбивает пешехода.
Сидел однажды журналист и думал, как бы заработать, чтобы поесть от пуза... и написал статью о бермудском треугольнике - до сих пор на этой статье делают немалые деньги... хотя порядком всем надоела.
Дальше погнали восхвалять Николу Теслу с его единственным значимым достижением - внедрением переменного тока в промышленность и обиход (именно внедрение, а не изобретение).
Новая волна, вырванная из фантастических рассказов о космических приключениях - черные дыры. Из разрыва материи в космосе они постепенно превратились в две спирали, связанные между собой тонкой трубой (грубо напоминало песочные часы по форме). И сегодня, превратив эту фантастику в неведанный шарик на границе событий, на этой теме делают деньги все - математики, ученые разных специальностей, журналисты, политики и все кто только может.. Тем не менее тема уже подбивает себя к концу (уж слишком активно ее последнее время обсуждают - скоро надоест).
И вот новая тема - Ёп его, искуственный интеллект! Единица и ноль правят миром, гениально!
самая простая форма интеллекта у таракана, но мы даже её не можем копировать - были попытки копировать одну из форм , которая напоминала нам таракана (движение от света или в направлении излучения), но по хорошему это как у чайника кнопку нажать - когда вскипит, он сам выключается (представляете - САМ!) А теперь представьте, что электрический чайник ведет автомобиль... вы серьёзно в это верите?! Почему же в метро или в поездах до сих пор машинисты сидят, когда мы на пороге таких революционных технологий?
Поснимайте немного лапшу с ушей. Может она и не мешает жить, но ничего хорошего от этого нет, когда нам изо дня в день по полкило макарон аккуратно накладывают, а народ уже без помощи самостоятельно её себе и другим развешивает.
Если нет возможности избежать жертв, то машина должна убить того, кто окажется у неё на траектории движения, даже если это окажется женщина с грудничком и старушкой мамой, но никак не делать выбор в чью либо пользу. Только так
Это не учёные, [мат]чёные. Не эксперны, [мат]ксперты.
Те, кто хоть немного следить за развитием автопилотов (не говоря уж от тех, кто в теме), знает, что автопилот решать ничего не должен.
Автопилот должен. Соблюдать. Правила. Дорожного. Движения.
Всё. Буква в букву. Никаких этических проблем перед разработчиками автопилотов нет и не было. Все эти статьи пишутся дилетантами.
Отказали тормоза? Что там в ПДД? Движение с неисправной тормозной системой запрещено. Автопилот тупо не поедет, не проверив тормоза, вот и всё. Не будет никакой дилеммы "давить бабушку или собачку".
Простите, если разочаровал.
А если вот такая ситуация: ребенок внезапно выбежал на дорогу в неположенном месте. ИИ не успевает затормозить. Но он может отвернуть, но тогда врезает в стену и гибнут находящиеся в автомобиле пассажиры. Ну и как разрулить эту дилемму чисто по ПДД, без применения этики?
Что там в ПДД написано? Тормозить, не меняя полосы движения. С применением звукового сигнала.
1. Случаев много было, когда пешеход отпрыгнул, а уворачивающаяся машина его "догнала".
2. Все эти судорожные попытки объехать внезапное препятствие заканчиваются плохо - то в забор, то в кювет, то в лоб на встречку.
3. Скажите, кому нужна такая машина, которая будет целенаправленно подвергать риску водителя? Кто такую купит?
Да, тут вы скорее правы, в случае исключительно автопилотов для автомобиля будет достаточно сделать чтобы он строго следовал ПДД, этика пока не понадобиться. Но проблема гораздо глубже, чем кажется. Автопилоты - это только начало. ИИ будет становиться все более и более совершенным (потому что чем умнее ИИ тем безопасней, до определенного предела, разумеется). Рано или поздно наступит момент, когда разум ИИ превзойдет человеческий, и это уже не остановить. Единственное, что можно сделать - это уже сейчас позаботиться о том, чтобы будущий ИИ-сверхразум стал дружественный к человеку. Вот для этого и необходимо придумать машинную этику, которая далеко не ограничивается пресловутыми азимовскими законами робототехники.
Тренировка скайнета?:)
Машина не должна вилять создавая дополнительную угрозу тем, кому до начала аварийной обстановки не угрожала. Как ниже уже неоднократно сказано, машина должна подавать сигналы (звуковые и световые), и совершать торможение двигателем продолжая движение в своей полосе. Пешеходы и автомобили оказавшиеся в этой полосе будут иметь шансы спасти себя своевременным манёвром, а если кто-то впадёт в ступор - значит не готов спасать себя (сам себе злобный буратина). Самое плохое что может сделать такая машина виляя - убьёт изначально не участвовавшего во всей этой ситуации человека на тротуаре. Даже если он один, а на полосе движения десять. Переходя дорогу, эти десять должны быть готовы к возникновению подобной ситуации, и должны знать как они должны в ней поступить, в отличие от этого одного, который мог специально остановиться в сравнительно безопасном месте, для решения каких-то своих, отвлекающих от дорожной обстановки дел.
В том то и суть. Если совсем уж кратко, то машина должна ехать прямо, так как там должны быть готовые к этому люди, у которых будет шанс спастись, а не давить гарантированно не готовых к такому людей, да и первые, заметавшись, могут тоже попасть под колёса. Не говоря уж о возможности для машины перевернуться, угробив ещё и пассажиров. А если впереди отбойник, то в отбойник, по причинам выше.
Вместо того чтобы разрабатывать новые типы тормозов, которые смогут сработать даже в самой нехорошей ситуации, эти идиоты разрабатывают концепцию кого давить.
Автопилот мог бы попробовать притереться об бетонный ограничитель слева или справа, и тем самым сбросить скорость до полной остановки.
Здесь показана самая крайняя ситуация, когда тормоза отказали по факту и никак скорость снизить резко не удасться. Такой случай один на миллион. Но это не говорит о том, что к нему не надо готовиться.
Подход не верный. Если у моей машины отказали тормоза, то у меня еще остаётся ручник и двигатель. Но! Тормоза НЕ ДОЛЖНЫ отказывать! На автомобилях, как правило, двухконтурные системы торможения. Продублируйте их и получите аж 4 контура сразу. Я не знаю, что нужно делать, чтобы все 4 оказались неисправны. Еще, перед выездом, машина с ИИ должна тестировать все системы и отказаться ехать если неисправны системы относящиеся к безопасности.
А решать кого убить, а кого оставить в живых машина не должна ни при каких обстоятельствах, ибо это порочный путь... Пусть моё мнение выглядит бесчеловечно, но пусть лучше машина СЛУЧАЙНО задавит мать с ребенком и бабушку с собачкой до кучи, чем научится ОСОЗНАНО решать кто достоен, а кто нет.
Дать ИИ инструкции на выбор, тех кого убивать, а кого нет :) НЕ это ли первые шаги к Скайнет? :))) Прекрасное начало.
Вот это да, вот это искусственный интеллект - он еще и определить профессии людей, пол и возраст до того как их убить:)
Надо узнать у каких профессий, пола и возраста больше шансов - это поможет нам выжить в недалеком будущем)))