Преодоление действий автоматики

В комментариях заметили, что в случае с самоуправляемым автомобилем, который способен предотвращать опасные ошибки водителя, сопротивляясь управляющим воздействиям, возникает одна большая проблема: как быть, если ошибается робот? Собственно, пример из комментариев: для того, чтобы увернуться от выскочившего на встречную полосу грузовика, нужно “нырять” в кювет, но робот, “помогающий” управлять, считает, что это потенциально опасное действие и не даёт так поступить. Ситуация, кстати, многократно разобранная в художественной литературе. И в случае практических систем автоматического управления выход есть.

Система должна быть устроена так, чтобы человек имел возможность преодолеть её действие, приложив дополнительные усилия (разумные). Ошибки, по определению, связаны с ненамеренными действиями, поэтому их проще блокировать мягко, гибкими средствами, техническая реализация которых (юзабилити, да), опять же, отработана в авиации. Если водитель пытается слишком рисковано маневрировать, не нужно жёстко блокировать руль, достаточно заставить его вибрировать и, скажем, включить в салоне какую-нибудь “лампу заливающего красного света”. Это как вариант, конечно. Если водитель твёрдо уверен в своей правоте, пусть продолжает “пересиливать” автопилот (в точности, как и в случае с самолётом).

Но это только одна сторона, только часть решения. Вообще, автоматическая система управления автомобилем должна хорошо ориентироваться в окружающем пространстве и тщательно моделировать возможные траектории движения автомобиля. Собственно, только систему с “добротной моделью” и развитыми сенсорами, позволяющими собирать необходимую информацию об окружающей сцене, и можно допускать в серийный автомобиль. Такая система не станет мешать уворачиваться от грузовика в кювет, а, скорее, сама поможет максимально безопасно “свернуть с дороги”.

Но и это не главный аспект! Главное – чтобы на грузовике тоже стояла аналогичная система управления. Тогда грузовик вообще вряд ли станет маневрировать рискованным образом.

Адрес записки: https://dxdt.ru/2011/08/24/4013/

Похожие записки:



Далее - мнения и дискуссии

(Сообщения ниже добавляются читателями сайта, через форму, расположенную в конце страницы.)

Комментарии читателей блога: 15

  • 1. 24th August 2011, 19:41 // Читатель зашел в гости написал:

    “Главное ? чтобы на грузовике тоже стояла аналогичная система управления.”

    Заведомо нереалезуемо, особенно в сильно пьющих странах.

  • 2. 25th August 2011, 02:37 // Читатель Массаракш написал:

    Абсолютно несогласен. Пьющие или непьющие страны – нет никакой разницы. Этак можно сказать, что введение обязательной сертификации водителей (получение прав) в сильно пьющих странах “заведомо невозможно”.

    Это вопрос исключительно экономической эффективности.

  • 3. 25th August 2011, 17:02 // Читатель зашел в гости написал:

    Массаракш,
    справедливое замечание. я не верно выразил свою мысль.
    Законодательно заставить всех устанавливать электронные “мозги” в машины можно, спору нет. Я хотел сказать, что в РФ оно просто работать не будет. Дело в культуре вождения, которой, к сожалению, в РФ просто нет. Выезды на встречку, обгон по обочине, развороты где угодно, беспорядочная парковка – на каждое такое нарушение будет включаться красная лампочка, т.е. каждые 30 секунд. В конце концов ее выкрутят, сенсор алкоголя замажут каким-нибудь солидолом и все встанет на свои места. Масштаб бардака на Российских дорогах можно представить себе, поездив, например по Голландии. Чисто, гладко, никто ни куда не лезет, ни одной полицейской машины – тоска…
    А пьяных за рулем действительно много, и это еще колоссальное препятствие для таких автоматизированных систем. Что робот делать будет, если водитель нетрезв? Брать управление на себя? (Тут очень и очень неизведанная территория, расплывчатая граница между 1-м и 2-м законами роботехники – чистая философия). Если такой водитель постоянно будет переводить систему на “ручное” управление, какой с робота толк?

  • 4. 25th August 2011, 17:22 // Читатель зашел в гости написал:

    я уже написал про особенности национального вождения роботизированных автомобилей. Теперь – технические проблемы.
    Ориентация в пространстве – это прежде всего сбор информации от пассивных и активных сенсоров (видеокамер, дальномеров, акселерометров и т.д.) А дороги – это вода, пыль, остатки нефтепродуктов (топливо, масло, битум), продукты сгорания топлива, разные химикаты (антифриз., тормозная жидкости и т.д.), соль и т.д. и т.п. Все это в конце концов осядет на стеклышках сенсоров, нарушая их работу. Если сенсор полностью залепился куском грязи – это замечательно: сенсор просто перестанет работать, и система должна эту неполадку обнаружить. А если на нем постепенно накапливается тоненькая нефтяная пленка, искажая работу датчиков? Сможет ли автоматическая система обнаружить искажения, и подкорректировать вычисления? Одно это (в смысле, поддержание сенсоров в рабочем состоянии, и диагностика) уже – колоссальная проблема. А ведь по сравнению с алгоритмами управления автомобилем, эта задача вообще тривиальна…

  • 5. 25th August 2011, 22:07 // Читатель jno написал:

    зашел в гости, Вы представляете себе объём, задачи и условия работы промавтоматики в современном, скажем, прокатном цеху металлургического завода?

    На датчике могут оставить тряпку или молоток. Но него может упасть кирпич. С крыши. Метров с 10. У оптических датчиков забавные проблемы с источниками света. Сходите на экскурсию на завод в АСУТП – преисполнитесь гордостью за человеческий разум.

  • 6. 25th August 2011, 22:26 // Читатель зашел в гости написал:

    “Вы представляете себе объём, задачи и условия работы … ”

    нет, не представляю. никогда даже близко не подходил к металлургическому заводу. в суровых условиях работы не сомневаюсь, а вот в том, что их оборудование имеет много общего с автомобильным…

  • 7. 26th August 2011, 07:58 // Читатель Шурик написал:

    Вот именно, как обычно: “Пастернака не читал но осуждаю”.

  • 8. 26th August 2011, 10:53 // Читатель jno написал:

    > их оборудование имеет много общего с автомобильным

    имеет. ещё как имеет. собссно, разница только в исполнении.
    и то не всегда.

  • 9. 26th August 2011, 17:04 // Читатель зашел в гости написал:

    ?Пастернака не читал но осуждаю?.

    поконкретнее можно, если знаете? оптические сенсоры в металлопрокатном цеху? такие на которых молоток(!) можно оставить? и их – в автомобиль, в нескольких экземплярах, так?

  • 10. 26th August 2011, 17:49 // Читатель зашел в гости написал:

    “разница только в исполнении.”

    Правильно. Штучная деталька, стоимостью несколько десятков тысяч долларов, ежедневно обслуживаемая квалифицированными специалистами, и ширпотреб для чайника-водителя, который капот открывать не умеет. Делов-то…

  • 11. 26th August 2011, 23:05 // Читатель jno написал:

    зашел в гости, никто их там особо не обслуживает – не везде вообще пролезть можно. а производственный цикл там – непрерывный. между слябов бегать – дураков нет. детальки – не штучные ни разу, вполне себе серийные. разница, в основном, в кожухах, питании, креплении…

  • 12. 30th August 2011, 21:18 // Читатель pash написал:

    То, что пьяный перехватит управление и выедет на встречку, будет случаться не чаще, чем сейчас, а даже реже. Реже на все незамазанные солидолом датчики спирта.

    Хуже другое, то, что, положившиеся на автоматику люди будут ехать расслаблено и не следить за ситуацией. У них резко упадет квалификация. Соответственно в случае ошибок автопилота реакция будет замедленной и менее правильной.

    Итого вывод: каждый человек всегда ездит либо на автопилоте, либо всегда ручками. Иное приводит к резкому ухудшению поведения в экстремальных ситуациях, и, соответственно, увеличению пессимистического развития ситуаций, учащению грустного итога.

  • 13. 30th August 2011, 21:21 // Читатель pash написал:

    Но это не самое грустное. Самое грустное то, что станет невозможно не уступить дорогу козе с мигалкой.

  • 14. 30th August 2011, 22:00 // Читатель зашел в гости написал:

    “не чаще, чем сейчас, а даже реже.”

    не уверен. зная, что в машине есть “автопилот”, люди будут садиться за руль в таком состоянии, в котором к обычной машине они даже не подумали бы приближаться.

    “У них резко упадет квалификация.”

    Это верно. Элементарных правил и сейчас не знают. С автоматикой вообще все забудут.

  • 15. 31st August 2011, 22:27 // Читатель jno написал:

    > невозможно не уступить дорогу козе с мигалкой

    на это “ручника” должно хватить :)

    впрочем, думаю, именно этот резон (в широком смысле) станет определяющим при внедрении таких автоматов