Volkswagen собирается ChatGPT добавить к системам автомобиля. То есть, внутри автомобиля появится очередной “жучок”, прослушивающий и отправляющий разговоры на внешний сервер. Тут нетрудно предположить, что может оказаться внедрена и такая недокументированная функция, которая позволит отправлять команды автомобилю с серверов ChatGPT. Конечно, это будет особенность, внесённая случайно по ошибке (но без всякого противоречия “политике использования автомобиля”) – поскольку уже заранее официально утверждается, что доступа “к системам автомобиля” у ChatGPT не будет (однако, это же ведь “невиданный искусственный интеллект”, который может вот-вот выйти из-под контроля, как утверждается в СМИ, в пресс-релизах и в открытых письмах – казалось бы, что может пойти не так?). С другой стороны, в автомобили уже не только звукозаписывающую аппаратуру штатно устанавливают (до идеи с ChatGPT, понятно), но и видеокамеры, передающие данные на центральные серверы, так что решение нельзя назвать радикально новым.



Комментировать »

Сейчас встречаются в суперсовременных моделях легковых автомобилей схемы, когда двигатель внутреннего сгорания (ДВС) вращает электрогенератор, питающий электромоторы колёсного привода, при этом, конечно, есть и батарея, которая позволяет автомобилю быть “чистым” электромобилем.

Схема с ДВС, генератором и электромоторами – удобная, известная, применяется и применялась много где, но для легковых автомобилей её всё ещё можно считать нетиповым решением. Тем более, что маркетинговой мотивацией является увеличение пробега на одном заряде батарей. Так-то электромоторы, непосредственно приводящие колёса, являются идеальным вариантом для автомобиля с точки зрения кинематики движения (да, даже если это четыре мотор-колеса и при этом учитывается величина “неподресоренных” масс). Но вот на практике с дорожными электромобилями есть ряд проблем – негде заряжать, прежде всего, но не только. Как эти проблемы будут решать, в случае сохранения массового использования личных автомобилей, пока не ясно. Оговорка про “массовость использования” тут важна потому, что решить проблемы можно прямым способом, а именно – исключив массовое использование личных автомобилей, сделав такое недоступным.

Вернёмся к теме про сочетание ДВС с электроприводом – сейчас это как бы переходный вариант, но нельзя исключать, что развитие истории пойдёт по такому пути, что через какое-то время, после того как останутся только электромобили без ДВС, такая же схема опять станет переходной в новых моделях, но переход случится в другую сторону.

Кстати, электромобиль без ДВС не выглядит принципиально не подходящим для использования в ситуации постапокалипсиса: горючее для современного автомобильного ДВС ведь тоже не вот где найдётся, если соответствующая инфраструктура разрушена. А электромобиль можно попробовать заряжать от ветряка какого-нибудь. Впрочем, с другой стороны, сложно собрать и настроить электрическую часть такого ветряка. Да и современный электромобиль может оказаться заблокированным, так как “отсутствует связь с сервером обновлений”. Для постапокалипсиса лучше чисто механические тракторы с неприхотливой паровой машиной – для них хотя бы топливо проще раздобыть.



Комментировать »

Нередко предполагается, что автомобили-роботы станут выдавать в эфир сведения о планируемой траектории движения, так как это может помочь другим автомобилям-роботам в планировании своих траекторий. Это одна из особенностей, связанных именно с роботами. Нельзя сказать, что сложно предсказать путь следования автомобиля под управлением обычного водителя-человека. Но то некий “путь”, предположим, “из точки А в точку Б”, с точностью до выбранных улиц и дорог, – не сложно, если водитель не запутывает следы специально. А вот с конкретными манёврами, составляющими отрезки траектории, трудности предсказания возникают регулярно. С роботами, как ожидается, дело другое: они могут строго придерживаться только что заявленного траекторного интервала. Это создаёт пространство для принципиально новых атак.

Представьте, что злонамеренный “участник движения” транслирует в сторону других автомобилей-роботов противоречивые траекторные данные – специально запутывает согласование, выполняет хитрую DoS-атаку. В тривиальной кооперативной системе другие роботы будут вынуждены остановиться, поскольку все их возможности движения окажутся закрыты атакующим. При этом источник атаки вовсе не обязан быть автомобилем-роботом – это может быть просто коробка с электронной начинкой, оставленная кем-то у столба на перекрёстке. Получается, коробка как бы изображает “нерешительного” водителя-человека и успешно блокирует движение роботов. И даже пассажиров, у кого они на борту, высадить нельзя на перекрёстке.

Для реализации, конечно, нужен соответствующий протокол. И можно предположить, что если такой протокол внедрят (а прототипы есть), то он будет защищён тем или иным криптографическим способом. Анонсируемые маршруты могут подписываться источниками (звучит как sBGP и RPKI), а другие участники станут проверять подписи. По причине рьяной поддержки маркетинга нетрудно приделать сюда ту или иную “иерархию удостоверяющих центров”, как это с регулярностью и происходит в смежных электронных областях (пример – eSIM и GSMA). Тогда ключи/сертификаты злонамеренных “маршрутопостановщиков” будут отозваны и прочие роботы смогут данные анонсы игнорировать. Вот только проблема в том, что это всё оказывается связано с безопасностью движения, а неверный отзыв ключа/сертификата легко может привести к тому, что добросовестные роботы на дороге проигнорируют добросовестный автомобиль-робот и, в соответствии с правилами блокбастерного кинематографа, его протаранит самоуправляемый грузовик. А соответствующий чужой сертификат, как окажется, тоже отозвал злоумышленник. С учётом Нового Средневековья, отозвать сертификат может быть даже проще, чем городить коробку-ретранслятор.



Комментарии (1) »

Пишут, что в Сан-Франциско активисты блокируют автомобили-роботы при помощи пластиковых дорожных конусов, которые просто устанавливают на капот автомобиля: с конусом автомобиль ехать не может, вероятно, из-за проблем с обзором; а снять конус с капота – некому. Вообще, автомобиль мог бы сбивать такие помехи специальным водомётом, который водомёт ещё и для разгона зазевавшихся пешеходов полезен. Это, впрочем, оставлено на будущее. Процитирую свою недавнюю записку по теме:

Автомобиль-робот так или иначе вынужден действовать под управлением (с некоторой степенью эффективности) внешних, дистанционных сигналов. Просто, сигналы эти поступают через видеокамеры, лидары/радары и прочие датчики. Так, автомобиль, предположим, использует системы машинного зрения, чтобы определять собственное положение и даже скорость (как вектор), а также и наблюдать окружающую обстановку. Злоумышленник может попытаться эти системы обмануть. Вполне себе кибератака. Описано множество вариантов, начиная от человека в футболке с нарисованным дорожным знаком и вплоть до контрастных рисунков вдоль дороги, которые активируют “недокументированные возможности”. Второй вариант, кстати, вовсе не выглядит фантастичным – скажем, автомобиль, обнаружив соответствующий рисунок на стене дома, начинает двигаться прямо на этот самый рисунок. Естественно, в последний момент его останавливает встроенная аварийная система. Или не останавливает.

(via)



Комментировать »

Одна из основных перспективных особенностей самоуправляемых автомобилей-роботов состоит в том, что они смогут обмениваться информацией в режиме онлайн. Например, когда одному из автомобилей потребуется сменить полосу движения, он может практически мгновенно договориться об исключении помех в движении с другими машинами, которые едут неподалёку. Считается, что роботами задача оптимизации совместного движения решается существенно лучше, чем “человеческими водителями”. Поспорить с этим довольно сложно. Методы оптимизации известны, протоколы обмена информацией и выработки решений – можно разработать.

Самое интересное начнётся после того, как реализованные в железе протоколы примутся ломать энтузиасты, внося изменения в принадлежащий им автомобиль, в частности, в его программное обеспечение. Если, конечно, ещё возможно будет получить автомобиль в собственность, в чём есть большие сомнения. Но если автомобиль приобрести нельзя, то в качестве инструментальной основы для взломов и атак может быть использовано другое, внешнее по отношению к автомобилю, оборудование.

Предположим, что автомобили-роботы при помощи радиообмена умеют договариваться о том, что один из них безопасно пропустит другой. Однако в протоколе есть дефект, позволяющий, через манипуляцию заголовками пакетов, ввести систему управления одного из автомобилей в некоторое “замешательство”. Не важно, как именно достигается такой эффект: думаю, нет никаких причин для особенных сомнений в “стойкости” автомобильных решений. То есть, получаем ситуацию, когда “хакерский” автомобиль, с чуть изменённой прошивкой, обеспечивает себе право преимущественного проезда, эксплуатируя дефект протокола. (Тут можно заметить, что строгое правило обеспечения преимуществ в движении – несомненно будет внедрено в систему управления автомобилей-роботов, стандарты и технические требования уже готовят.)

С другой стороны, возможность подобных действий – один из факторов, позволяющих обосновывать необходимость отказа от личного автомобиля-робота в пользу аренды услуг такси (именно услуг, не автомобиля), которое контролируется каким-нибудь муниципальным центром управления движением. Понятно, впрочем, что от атак это не спасёт.



Комментарии (1) »

Я уже как-то писал на эту тему: сенсорам автомобилей-роботов можно ставить активные помехи. Собственно, до этой задачи потихоньку добрались публично – Wired рассказывает о том, как исследователи ставят помеху радару автомобиля Tesla, а также и ультразвуковым датчикам препятствий этого же автомобиля. (Не ясно, почему выбрали Tesla – возможно, из-за максимальной медийной узнаваемости.)

Эта тема имеет историю в несколько десятков лет. Правда, она касается не автомобилей, а военных радиолокационных комплексов самого различного назначения. Помехи ставили и ставят бортовым РЛС истребителей и радарам наземных комплексов ПВО. В тексте Wired, впрочем, ничего про военные системы не сказано, но это не отменяет истории разработок. Постановка помех – довольно хитрая область, где наряду с передовыми методами обработки сигналов и сложной микроэлектроникой применяется такая математическая дисциплина, как теория игр. В случае с военной техникой от искусственных помех специально пытаются отстраиваться (про естественные – и так понятно). Например, радары могут использовать сигналы сложной структуры (и во временной, и в частотной области), которые сложно обнаружить (LPI) и, соответственно, сложно поставить активную помеху, вводящую систему в заблуждение. Для автомобильной техники этот вариант, скорее всего, просто не рассматривается: максимум, система управления учитывает естественные помехи и пытается обнаружить ситуацию потери точности измерения, чтобы сигнализировать об “отключении автопилота” (именно так действует Tesla из статьи). Проблема в том, что активный помехопостановщик может создать картинку, неотличимую от настоящей, с точки зрения системы управления. И это большая проблема, потому что автомобиль с таким помехопостановщиком может находиться в потоке транспорта, хоть это и похоже на сюжет из киберпанковского кинофильма.

Роботам может помочь использование пассивных систем, например, видеокамер. Развитому машинному зрению помеху ставить сложнее. Однако на практике, без дополнительного инструмента измерения расстояния, которым является тот или иной сонар (радар, лидар), роботу сейчас довольно трудно – моделирование сцен только по данным камер представляет собой сложную вычислительную задачу. Впрочем, такие системы есть.

Несомненно, активные помехи автомобилям-роботам – это одна из перспективных тем, так что в ближайшее время мы тут увидим ещё много интересного, потому что вряд ли разработчики беспилотных автомобилей заблаговременно озаботятся защитой от такого рода атак. Просто потому, что такая озабоченность была бы ненормальной: хорошего инженера-робототехника заботят совсем другие задачи.



Comments Off on Автомобили-роботы и помехопостановщики

В Штатах СМИ рассказывают, что полиция Нью-Йорка использует засекреченные “рентгеновские автомобили”, предназначенные для “просвечивания” других автомобилей, наблюдения за прохожими, заглядывания в дома и что там можно ещё придумать за задачи для подобной техники. Речь про мобильные комплексы Z Backscatter® Van (“ZBV”) от компании AS&E, которые, судя по документации на сайте (см. ссылку) – секретными вовсе не являются.

Согласно описанию, эти комплексы используют рентгеновские сканеры обратного рассеяния, которые работают с отражённым сигналом и не требуют размещения приёмника за исследуемым объектом. Комплекс годится для сканирования самых разнообразных объектов прямо на ходу. Сканер монтируется на шасси обычного минивэна, который ничем не выделяется на дороге – эта особенность отдельно указана в качестве преимущества. Например, сканер, мирно едущий в соседней полосе, может заглянуть внутрь фуры. Такой досмотр не требует разрешения (не из-за административных правил, а просто потому – что откуда вообще условные пассажиры фуры могут узнать, что их сквозь металл наблюдает оператор рентгеновского сканера?). Собственно, скандал в Штатах как раз связан с тем, что не всем понравилось потенциальное присутствие подобных сканеров на улицах. Кто там, кстати, что-то говорил про шапочки из фольги? Против рентгеновского излучения они точно помогают, хотя и локально. А если серьёзно, то для подобных систем требуются достаточно малые дозы. Но, конечно, если машинка светит непрерывно во все стороны, раз за разом объезжая квартал, то можно говорить о некотором повышении “радиационной опасности”, особенно, если в сканере сломалась что-нибудь.



Комментарии (4) »

Популярная тема: если оснастить номерные знаки автомобилей радиометками (RFID), а дороги – считывателями (прототип системы, так сказать, есть в распоряжении профильного НИИ), то можно автоматизировать учёт нарушений правил дорожного движения и выписку штрафов. В ответ пользователи автодорожной сети пишут, что, мол, поставят металлические экраны – метки перестанут действовать.

Тут нужно учитывать, что главное во всякой подобной системе тотального контроля – не наличие меток в номерах, а развертывание всепроникающей сети считывателей. Если уж устанавливать датчики, то они должны фиксировать проезд автомобиля на основании механических колебаний (или ещё как-то), и, отдельно, пытаться установить его идентификационный номер, считывая метку. Соответственно, в такой системе всякий автомобиль, не выдающий в эфир свой идентификатор, будет тут же выявлен в автоматическом режиме. А так как движение с испорченным номерным знаком это нарушение, то уже на следующем пункте контроля автомобиль будет остановлен (хорошо, что не обездвижен прямо в потоке по радиокоманде летающего полицейского робота – хотя, кто знает, какой шаг будет следующим).



Комментарии (5) »

В продолжение заметки про лазерную турель, перехватывающую подлетающие снаряды. Чисто “кинетическая” турель стреляет не лазером, а своим снарядом, который должен угодить прямо в снаряд подлетающий. Попасть снарядом в снаряд сложнее, чем лазером, но возможно. При столкновении на встречных курсах – мгновенный гарантированный результат: сумма скоростей будет такой, что оба снаряда разрушатся. Даже если перехватчик мал, относительно перехватываемого снаряда, например, составляет лишь десять процентов его массы, попадание всё равно приводит к разрушению цели.

В прошлом примере, про лазер, перехватываемый снаряд летит со скоростью 1300 м/сек (что является заведомо завышенным показателем – обычно скорость раза в два-три меньше). Путь, на котором требуется перехватить снаряд, – 900 метров: предполагаем, что снаряд обнаружен на расстоянии в километр, а если он не перехвачен до рубежа 100 метров от прикрываемого объекта, то перехвата, считаем, не состоялось (таковы условия задачи). Выходит, на всё про всё у перехватывающего комплекса 750 мс. Это как минимум.

Основной проблемой для кинетического перехватчика становится подлётное время до снаряда. Лазер тут действует мгновенно, а вот стальной болванке ещё нужно лететь. Пусть у нас столь же сверхмощная фантастическая пушка, как и у атакующих, поэтому снаряд на перехват вылетает со скоростью 1300 м/сек. Тогда, если пренебречь падением скорости, 100 метров он преодолеет за 76 мс. В реальности, конечно, несколько медленнее. Это означает, что нижний предел запаса времени на полёт перехватчика – примерно 100 мс. Осталось 650 мс. В предыдущем упражнении, на поворот лазерной турели мы отводили 300 мс. Это показатель, отражающий предел сверху: действительно, за 0,3 сек. можно повернуть на 180 градусов даже массивную турель, если заранее озаботиться электрическим или, на худой конец, паровым приводом. Итак, 300 + 100 = 400, а осталось 350 мс, но это только механическая часть. Кстати, интересная оптимизация состоит в том, что турель может всё время быстро вращаться: это, во-первых, позволяет экономить на разгоне (хотя, тут можно поспорить); во-вторых, снижает средний показатель угла доворота, необходимого для обстрела подлетающего снаряда – в некоторых случаях мы уже будем смотреть примерно на подлетающий снаряд, когда тот будет обнаружен (лучше всего, конечно, сразу развернуться в сторону вероятного противника). Для того, чтобы понять, куда же стрелять, как и в случае с лазером, придётся провести траекторные вычисления, пусть, как и в прошлый раз, это 50-100 мс. 350 – 100 = 250 мс, столько осталось времени на выстрел.

Кинетический перехватчик должен маневрировать, чтобы корректировать свой полёт и попадать в цель. Маневрирование, кроме того, позволяет сократить время поворота турели: оптимизированный вариант стреляет, развернув турель в некий сектор, захватывающий снаряд, а перехватчик дальше наводится дополнительно. Траектория полёта изменяется, расстояние несколько увеличивается, но это может оказаться оправданным. Особенно, если выпускать несколько перехватчиков. А для получения высокой вероятности перехвата – именно так и придётся поступать. Выстрелы могут происходить параллельно, поэтому 250 мс не нужно делить между десятью, как минимум, стволами. Естественно, 250 мс – более чем достаточно. Если начать раньше, то перехватчик получит шанс встретить снаряд на большем удалении от критического рубежа. Проблема в том, что обычный, не реактивный, перехватчик довольно быстро теряет скорость с расстоянием. Поэтому лучше всего стрелять кинетическим перехватчиком из электромагнитной пушки, разгоняющей снаряд хотя бы до 2500 м/сек. Сооружение громоздкое, но зато всепогодное и эффективное. Это вам не лазер.



Комментарии (8) »

Чуть более года назад, 17 июня 2014 года, я писал буквально следующее:

Доступность технологий растёт, а методы атак, как известно, постоянно улучшаются: так что в недалёком будущем на обочине дороги может появиться “шутник”, который, при помощи нехитрого лазерного (или микроволнового) излучателя, останавливает проезжающие автомобили, вызывая срабатывание системы предотвращения столкновений.

Ждать, действительно, пришлось недолго: именно такую атаку, с лазерным излучателем, обещают представить на Black Hat Europe 2015. Действительно, технологии движутся, а о защите думают не так много. Впрочем, защита автомобилей от подобных активных помех – это вопрос едва ли не сложнее, чем аналогичная задача в случае, например, боевых истребителей.



Комментарии (2) »

В Великобритании собираются запустить в пробную эксплуатацию системы индуктивной зарядки для электромобилей, интегрированные в полосы обычного шоссе. (Но пока что речь идёт о предварительных тестах, вне дорог.) То есть, аккумулятор транспортного средства заряжается при движении по данной полосе. Это очень напоминает аркадные компьютерные игры про автомобили, где проезд по определённой полосе даёт прибавку в скорости или ещё какие-то бонусы. Такие системы уже ограниченно используются в мире: например, документ с описанием британского проекта ссылается на автобусный маршрут в Южной Корее (но электрические автобусы там заряжаются во время остановки).

Charging system

Решение, конечно, очень футуристичное и занятное – из тех, которые можно охарактеризовать как “научная фантастика в повседневных новостях”. Правда, эффективность вызывает сомнения: потребуются очень длинные полосы, а их возведение стоит недёшево. Автомобили придётся оснастить приёмной системой, которая добавит сложности и, что ещё хуже, веса. Тем не менее, удобство может перевесить негативные факторы.

Естественно, за заряд планируется взимать плату. Схема предлагается полностью автоматическая: автомобиль оснащается радиометкой (RFID), которая считывается “зарядной полосой” во время движения. Электричество подаётся в последовательно расположенные обмотки-излучатели, каждая из которых активируется при проезде автомобиля, если, конечно, на лицевом счёте автовладельца есть средства.



Комментарии (7) »