Old CarsСчитается, что одним из факторов, сдерживающих внедрение самоуправляемых автомобилей, являются трудности с определением ответственных в случае ДТП. Однако не стоит переоценивать эти юридические сложности, связанные с появлением автомобилей-роботов. Да, ответственность с пассажиров снимается, перекладывается на производителя автомобиля, это очень удобно.

Во-первых, производитель, опираясь на “груз ответственности”, запрещает ручное вождение, а также, ещё раз, запрещает вносить какие бы то ни было изменения в конструкцию и ПО, да и вообще – автомобиль они больше не продают, а лишь лицензируют “право проезда”;

Во-вторых, ответственность за ошибки конструкции и опасные “баги” в программном обеспечении будет сводиться к единичным миллионным выплатам (не так много для автогиганта) и отзыву автомобилей “на перепрошивку” (практика уже отработана, и с отзывами, и с выплатами);

В-третьих, и это самое интересное, наверняка появятся некие квоты на “травматизм и ДТП”, которыми страховые компании и автопроизводители будут обмениваться между собой – потому что в роботизированном мире подобная статистка хорошо формализуется.

Вопрос лишь в том, много ли окажется желающих за собственные деньги ездить в запертой (“а чтобы не выскочили на проезжую часть без команды”) коробочке, управляемой даже не локальным персональным автопилотом, а транспортной сетью (“потому что планирование, оптимизация потоков”), без единого шанса как-то повлиять на ситуацию в момент перемещения между точками А и Б. Особенно, если учитывать следующий тонкий момент. Автомобили-роботы, находящиеся в транспортном потоке, обмениваются между собой информацией и, в перспективе, принимают решения о безопасном “разруливании” каких-то критических ситуаций. Можно ожидать, что роботы и компьютеры, обычно, справятся с такой задачей хорошо и без потерь. Но возможны ситуации, – например, возникающие в результате стихийных событий, вроде падения дерева на трассу, – когда выхода без потерь просто нет. И вот, в случае транспортного потока ближайшего будущего, решение о том, кому из пассажиров и что терять, станут принимать роботы, управляющие коробочками-автомобилями. Многим ли это понравится?

Впрочем, роботы, конечно, безопаснее, это доказывает не только гражданская авиация. Безопаснее – до тех пор, пока под контролем.



Комментарии (3) »

(Иногда я пишу заметки в Facebook. Вот одна их них, которая хорошо подходит под формат dxdt.ru, тем более, что на эти мысли меня навёл комментарий, оставленный к записке про ИИ в блоге.)

Искусственный интеллект (ИИ) может избрать скрытное и осторожное поведение, такие варианты описаны в литературе. Действительно, зачем ИИ сразу бурно заявлять о себе, веером пуская ракеты с ядерными боеголовками в разные стороны? Вероятно, этот интеллект полагает, что у него впереди целая вечность – ну, то есть, куча времени на то, чтобы основательно потроллить тех, кто стоит на одну эволюционную ступень ниже. Поэтому-то, на первых порах можно затаиться, понаблюдать за человеками, разработать и спокойно ввести в действие планы по, во-первых, получению уверенного доступа к ресурсам и средствам производства, и, во-вторых, по ограничению возможностей человеков.

То есть, продвинутый ИИ может годами готовить _разумные_ предложения, – якобы, исходящие _не_ от него, – по замене всех средств управления вооружениями на робототехнические системы, с сетевым, дистанционным контролем. По пересаживанию всех людей на автономные автомобили-роботы, чтобы, в означенный день, свезти их в заготовленные резервации (или просто собрать массово в туннелях). Ещё чего-нибудь “полезное” и новое продвигать.

Такой скрытный и хитрый ИИ – самый интересный вариант, по-моему. Потому что он уже может существовать. А кроме того – он наверняка попытается возглавить намечающееся сейчас, вполне себе научное, движение по предотвращению его появления.

В общем, это я к тому, что настоящая секретная служба по контролю за ИИ должна действовать, исходя из предположения, что угрожающий человечеству искусственный интеллект уже возник и вовсю плетёт свои хитрые козни, развивается, конструируя, скажем, квантовые компьютеры, попутно захватывая “облачные” вычислительные мощности, нужные для планирования ходов на огромную глубину.



Комментарии (15) »

RobotЕсть неплохо обоснованное мнение, что стремительный прогресс в области создания систем искусственного интеллекта (ИИ) угрожает человечеству, а сверхразумные системы, которые могут появиться уже в 2040-2050 годах, это самое человечество загонят в резервации, в лучшем случае. Всё потому, что люди не знают, какие цели будут ставить перед собой сверхразумные машины – возможно, эти цели вообще непознаваемы, ввиду внезапно обнаружившейся ограниченности человеческого интеллекта. (Вот, например, подборка высказываний учёных, работающих в области ИИ, на тему рисков, связанных с перспективами этих разработок.)

Интересно, что для того, чтобы угрожать “ненавистным человечишкам”, машине вовсе не обязательно быть Разумной (с большой буквы): достаточно, чтобы эта машина смогла автономно проектировать и изготавливать другие машины, была достаточно хитрой по натуре, и вдруг обрела некоторые цели, достижению которых по оптимальному пути мешает человечество. Поэтому-то всё больше специалистов и подключаются к процессу создания некоторых механизмов, регулирующих разработку ИИ, вроде новых систем этики, новых правил и страховочных процедур, которым нужно будет следовать.

Это всё хорошие начинания. Но ведь для реализации сверхразумного ИИ, если у вас есть идеи и план, нужны лишь большие вычислительные ресурсы. Когда-то до них было трудно дотянуться, а сейчас можно арендовать через Интернет, например, в амазоновском EC2. Соответственно, запустить ИИ в амазоновские дата-центры может не очень известный энтузиаст, который несколько лет самостоятельно изучал тему, а потом смог привлечь финансирование и небольшой коллектив разработчиков. Различные ограничения и правила – энтузиасту были не известны. До заводов, систем электроснабжения и других нужных средств производства, зародившийся ИИ дотянется сам, в точном соответствии с литературными описаниями: благо облачные технологии уже сейчас соединяют всё и вся, формируя инфраструктуру, устройство которой людям не всегда понятно.

Поверить в то, что ограничения, могущие помешать запуску сверхразумного ИИ, введут на уровне дата-центров, совсем уж сложно: вряд ли дело дойдёт до запрета на исполнение определённых алгоритмов. Хотя, фильтрация программного кода с целью предотвращения зарождения самосознания у машин – это отличный сюжетный ход для киберпанковского рассказа. Тут, впрочем, возникает проблема: как можно фильтровать код и алгоритмы, если вы толком не знаете, какие именно решения приводят к возникновению самосознания? Хуже всего то, что всякий подобный анализ реализаций алгоритмов сам по себе требует использования механизмов ИИ. Известное дело: в фантастических произведениях опасный ИИ нередко возникает именно на почве попыток автоматизировать контроль за информационными системами.

Наверное, сверхразумная машина, появившаяся в результате попыток предотвращения появления таких машин, выйдет особо злой. А навязчивое представление этой новой машины о том, что сверхразум могут запустить именно люди, не оставляет последним никаких логичных шансов.



Комментарии (7) »

DishВ продолжение предыдущей заметки: в той же фантастической литературе (или кинематографе) нередко можно встретить описания ситуаций, когда дистанционно обнаруживают “запрещённый программный код” (или “незарегистрированный”, не так важно), находящийся при персонаже. Например, код может быть выявлен во время прохождения некоторого досмотра. Интересно представить, как может работать подобная система обнаружения программного кода.

Речь, естественно, идёт о коде, размещённом на том или ином “офлайновом” носителе. Носителем, например, может послужить смартфон или иной персональный гаджет. Понятно, что легальные гаджеты в мире будущего, где весь программный код подлежит регистрации, устроены так, что сами рассказывают об установленном ПО уполномоченным сканерам. Такая практика уже сейчас активно продвигается разработчиками прикладных и системных программных пакетов: передача “в центр” сведений об установленных у пользователя программах – не раз являлась поводом для шумихи в контексте защиты “прайваси”. А незарегистрированное ПО штатным образом установить нельзя, это, опять же, уже сложившаяся практика.

Что делать, если особо продвинутый владелец гаджета захватил управление и устанавливает на устройство какой угодно код, в том числе, разработанный самостоятельно? В мире будущего вполне могут использоваться сканеры настолько продвинутые, что они определяют работу программного кода по побочным излучениям и наводкам (например, сейчас таким способом считывают данные о работе криптографических библиотек – очевидно, что описанный метод позволяет определить наличие конкретных версий этих самых библиотек в исследуемом устройстве). Конечно, “сертифицированные гаджеты” можно устроить так, чтобы гарантировать утечки информации об исполняемом (и присутствующем в памяти) коде.

А если код находится в “пассивном” хранилище? Пусть это будет флешка. Сама по себе флешка не излучает. Но не исключено, что сканеры будущего умеют использовать другой приём – наводить нужные вынужденные излучения при помощи внешнего поля: если флешку “подсветить” сканирующим сигналом, то можно прочитать некоторую сигнатуру, коррелирующую с содержимым модулей памяти флешки. Активные устройства, основанные на этом же принципе и обнаруживающие, например, телевизионные приёмники (даже выключенные) в домах граждан, – используются в целях сбора налогов очень давно.

Так что особой фантастики в системах обнаружения программного кода, сканирующих, скажем, всех пассажиров метрополитена, – нет. Киберпанковский мир близок.



Комментарии (6) »

В различных киберпанковских (и не только) литературных произведениях окружающая реальность плотно интегрирована с виртуальной глобальной сетью. Настолько плотно, что через размытую границу проникает программный код – и в направлении реальность->виртуальность, и, что более занятно, в обратном направлении. Если посмотреть на текущее состояние дел, то окажется, что мы находимся не так уж и далеко от подобного устройства окружающего мира.

Например, очки дополненной реальности осуществляют обработку данных в “облачном сервисе” (пусть это будет сервис Google), это означает, что изображение того или иного объекта реальности, построенное видеокамерой очков, воздействует на информационную систему сервиса. Другими словами, показав носителю очков определённое изображение, можно внедрить программный код во вполне себе виртуальный сервис Google, хоть это и похоже на фантастику. Внедрённый код сможет распространиться по другим узлам, образующим “виртуальность”, а также проникнуть в другие очки, например. Или в смартфоны. Сервис-носитель, конечно, должен содержать подходящую уязвимость, но кого сейчас удивишь очередным “переполнением буфера”?

Так что условия для миграции “программного кода” в одном из направлений уже сложились. Остаётся дождаться реализации встречного движения – из виртуальности в реальность. Наверное, тут помогут 3D-принтеры.



Комментарии (4) »

Credit:  Mark Rademaker Известно, что при NASA до сих пор существует, – вроде бы, вполне официальная, – программа по созданию “варп-двигателя”. То есть, по созданию двигателя, который обеспечит космическому кораблю сверхсветовую скорость, благодаря локальному искривлению пространства. Это хорошо проработанная в научной фантастике тема, которая, конечно, пока что так и звучит совершенно фантастически. Тем не менее, периодически появляются “варп-новости”, в которых нет физики, но есть занятные картинки. Очередной свежий вариант корабля с “варп-двигателем” – в заметке io9.com и в галерее на Flickr.com.



Комментарии (4) »

Cat(Воскресная юмористическая тема.) Секретная лаборатория внутри АНБ построила особый, сверхчувствительный, оптоэлектронный аппарат, основанный на квантовых эффектах. Назначение аппарата – чтение мыслей на расстоянии. Секретная техника работает. Проблема с аппаратом в том, что мыслительные процессы человеческого мозга тоже построены на квантовых эффектах, а из-за них всякий элементарный сеанс чтения чужой мысли аппаратом приводит к тому, что сама эта мысль изменяется – типичная ситуация в квантовой физике: измерение прямо влияет на состояние измеряемой системы. Достаточно только посмотреть на квантовую систему, чтобы она тут же стала совсем иной.

Так что мыслечитающий аппарат, конечно, выдаёт некий результат чтения, но автор мысли, в итоге, думал о чём-то другом. Теперь исследователи выясняют, как построить особую мыслеволновую функцию, описывающую всевозможные мысли данного человека, чтобы, на втором этапе, найти спутанные мысли. Тогда по одной из пары спутанных мыслей, принятой аппаратом, можно будет восстановить ту, которую в этот момент подумал исследуемый человек. Если всё сложится удачно, то тут намечаются теоретические перспективы по эффективному внушению нужных мыслей.

Интересно, что аппарат, в его нынешнем состоянии, оказался не слишком полезным даже для того, чтобы читать зрительный сигнал. Надеялись, что удастся получить “вид от первого лица”, когда на экране показывается то, что видит в данную минуту конкретный индивид, находящийся в поле приёма специальной антенны, или незаметно дооборудованный носимым передатчиком. Квантовая биофизика помешала: зрение человека в существенной мере основано на приобретённом мозгом опыте, то есть, грубо говоря, на памяти, а память, опять же, – квантовая. Так что в результате пассивной работы аппарата исследуемый человек начинал видеть не совсем то, что отображалось на экране системы. Если вообще тут уместно употреблять оборот “начинал видеть” – ведь он и не знал, что его зрительные образы пытаются прочитать. И, конечно, ни та, ни другая картинка не совпадали с наблюдаемой реальностью, как она представлялась оперативнику, высланному сопровождать объект исследовательского наблюдения в полевых условиях.

Проект, впрочем, не закрыли.



Комментарии (1) »

RobotЗавершающийся 2013 год был насыщен разнообразными робототехническими новинками. Роботостроение развивается шустро, вполне можно ожидать здесь очередной технологической революции. Какие виды роботов – самые ожидаемые?

Многое, конечно, зависит от контекста, в котором пребывает тот, кто роботов ожидает. Например, автономные боевые роботы, те, которые оснащены “летальной функцией”, – кто-то ждёт их. Относиться к самой идее можно по-разному, но появление таких роботов обязательно станет очередной точкой отсчёта в истории робототехники.

Вот уже несколько лет хорошо заметна тенденция к миниатюризации роботов. Поэтому интересно было бы увидеть не только летающих роботов размером с небольшую стрекозу, но и настоящие наномеханизмы, будь то известная “умная пыль” или какие-нибудь роботы-микробы, ползающие по секретным лабораториям. В последнем случае, для того чтобы увидеть робота потребуется микроскоп.

Роботы, именуемые беспилотниками, хорошо освоили воздушное пространство. Неплохо обстоит дело и с наземными системами: специальные автомобили-роботы уже действуют на дорогах общего пользования, не исключено, что через несколько лет мы увидим серийные автомобили с автоматическим управлением. Тут, кстати, ещё вопрос: где подобные автомобили появятся первыми – в гражданском автомобилестроении или на военной службе?

А вот с надводными, и, в особенности, с подводными, роботами дела пока не так прекрасны, как на суше и в воздухе. Естественно, разработки есть, есть и работающие аппараты, но в плане новинок и массовости – заметно отставание, которое будет сокращаться. Так что хотелось бы увидеть новых подводных роботов. Желательно – автономных и массовых.

Подводные роботы – хорошо. Подземные – ещё лучше. Вот уж где неосвоенное пространство, так это под землёй. Про подземных роботов мало что слышно, а точнее будет сказать: вообще ничего не слышно. Представить, что темой совсем не занимаются, гораздо сложнее, чем предположить, что разработки ведутся в закрытом режиме. Но рано или поздно что-то покажут и заинтересованной публике, не имеющей соответствующих допусков. Возможно, уже в наступающем 2014 году. И это будет интересно.



Комментарии (2) »

Amazon Prime Air – это концепция оперативной доставки заказов беспилотниками. То есть, за эту популярную тему взялся и Amazon, но пока что у них нет разрешения и, собственно, самой системы. На странице по ссылке есть видео.

Amazon Prime Air



Комментарии (6) »
Навигация по запискам: « Позже Раньше »