RobotЕсть неплохо обоснованное мнение, что стремительный прогресс в области создания систем искусственного интеллекта (ИИ) угрожает человечеству, а сверхразумные системы, которые могут появиться уже в 2040-2050 годах, это самое человечество загонят в резервации, в лучшем случае. Всё потому, что люди не знают, какие цели будут ставить перед собой сверхразумные машины – возможно, эти цели вообще непознаваемы, ввиду внезапно обнаружившейся ограниченности человеческого интеллекта. (Вот, например, подборка высказываний учёных, работающих в области ИИ, на тему рисков, связанных с перспективами этих разработок.)

Интересно, что для того, чтобы угрожать “ненавистным человечишкам”, машине вовсе не обязательно быть Разумной (с большой буквы): достаточно, чтобы эта машина смогла автономно проектировать и изготавливать другие машины, была достаточно хитрой по натуре, и вдруг обрела некоторые цели, достижению которых по оптимальному пути мешает человечество. Поэтому-то всё больше специалистов и подключаются к процессу создания некоторых механизмов, регулирующих разработку ИИ, вроде новых систем этики, новых правил и страховочных процедур, которым нужно будет следовать.

Это всё хорошие начинания. Но ведь для реализации сверхразумного ИИ, если у вас есть идеи и план, нужны лишь большие вычислительные ресурсы. Когда-то до них было трудно дотянуться, а сейчас можно арендовать через Интернет, например, в амазоновском EC2. Соответственно, запустить ИИ в амазоновские дата-центры может не очень известный энтузиаст, который несколько лет самостоятельно изучал тему, а потом смог привлечь финансирование и небольшой коллектив разработчиков. Различные ограничения и правила – энтузиасту были не известны. До заводов, систем электроснабжения и других нужных средств производства, зародившийся ИИ дотянется сам, в точном соответствии с литературными описаниями: благо облачные технологии уже сейчас соединяют всё и вся, формируя инфраструктуру, устройство которой людям не всегда понятно.

Поверить в то, что ограничения, могущие помешать запуску сверхразумного ИИ, введут на уровне дата-центров, совсем уж сложно: вряд ли дело дойдёт до запрета на исполнение определённых алгоритмов. Хотя, фильтрация программного кода с целью предотвращения зарождения самосознания у машин – это отличный сюжетный ход для киберпанковского рассказа. Тут, впрочем, возникает проблема: как можно фильтровать код и алгоритмы, если вы толком не знаете, какие именно решения приводят к возникновению самосознания? Хуже всего то, что всякий подобный анализ реализаций алгоритмов сам по себе требует использования механизмов ИИ. Известное дело: в фантастических произведениях опасный ИИ нередко возникает именно на почве попыток автоматизировать контроль за информационными системами.

Наверное, сверхразумная машина, появившаяся в результате попыток предотвращения появления таких машин, выйдет особо злой. А навязчивое представление этой новой машины о том, что сверхразум могут запустить именно люди, не оставляет последним никаких логичных шансов.



Комментарии (7) »

DishВ продолжение предыдущей заметки: в той же фантастической литературе (или кинематографе) нередко можно встретить описания ситуаций, когда дистанционно обнаруживают “запрещённый программный код” (или “незарегистрированный”, не так важно), находящийся при персонаже. Например, код может быть выявлен во время прохождения некоторого досмотра. Интересно представить, как может работать подобная система обнаружения программного кода.

Речь, естественно, идёт о коде, размещённом на том или ином “офлайновом” носителе. Носителем, например, может послужить смартфон или иной персональный гаджет. Понятно, что легальные гаджеты в мире будущего, где весь программный код подлежит регистрации, устроены так, что сами рассказывают об установленном ПО уполномоченным сканерам. Такая практика уже сейчас активно продвигается разработчиками прикладных и системных программных пакетов: передача “в центр” сведений об установленных у пользователя программах – не раз являлась поводом для шумихи в контексте защиты “прайваси”. А незарегистрированное ПО штатным образом установить нельзя, это, опять же, уже сложившаяся практика.

Что делать, если особо продвинутый владелец гаджета захватил управление и устанавливает на устройство какой угодно код, в том числе, разработанный самостоятельно? В мире будущего вполне могут использоваться сканеры настолько продвинутые, что они определяют работу программного кода по побочным излучениям и наводкам (например, сейчас таким способом считывают данные о работе криптографических библиотек – очевидно, что описанный метод позволяет определить наличие конкретных версий этих самых библиотек в исследуемом устройстве). Конечно, “сертифицированные гаджеты” можно устроить так, чтобы гарантировать утечки информации об исполняемом (и присутствующем в памяти) коде.

А если код находится в “пассивном” хранилище? Пусть это будет флешка. Сама по себе флешка не излучает. Но не исключено, что сканеры будущего умеют использовать другой приём – наводить нужные вынужденные излучения при помощи внешнего поля: если флешку “подсветить” сканирующим сигналом, то можно прочитать некоторую сигнатуру, коррелирующую с содержимым модулей памяти флешки. Активные устройства, основанные на этом же принципе и обнаруживающие, например, телевизионные приёмники (даже выключенные) в домах граждан, – используются в целях сбора налогов очень давно.

Так что особой фантастики в системах обнаружения программного кода, сканирующих, скажем, всех пассажиров метрополитена, – нет. Киберпанковский мир близок.



Комментарии (6) »

В различных киберпанковских (и не только) литературных произведениях окружающая реальность плотно интегрирована с виртуальной глобальной сетью. Настолько плотно, что через размытую границу проникает программный код – и в направлении реальность->виртуальность, и, что более занятно, в обратном направлении. Если посмотреть на текущее состояние дел, то окажется, что мы находимся не так уж и далеко от подобного устройства окружающего мира.

Например, очки дополненной реальности осуществляют обработку данных в “облачном сервисе” (пусть это будет сервис Google), это означает, что изображение того или иного объекта реальности, построенное видеокамерой очков, воздействует на информационную систему сервиса. Другими словами, показав носителю очков определённое изображение, можно внедрить программный код во вполне себе виртуальный сервис Google, хоть это и похоже на фантастику. Внедрённый код сможет распространиться по другим узлам, образующим “виртуальность”, а также проникнуть в другие очки, например. Или в смартфоны. Сервис-носитель, конечно, должен содержать подходящую уязвимость, но кого сейчас удивишь очередным “переполнением буфера”?

Так что условия для миграции “программного кода” в одном из направлений уже сложились. Остаётся дождаться реализации встречного движения – из виртуальности в реальность. Наверное, тут помогут 3D-принтеры.



Комментарии (4) »

Credit:  Mark Rademaker Известно, что при NASA до сих пор существует, – вроде бы, вполне официальная, – программа по созданию “варп-двигателя”. То есть, по созданию двигателя, который обеспечит космическому кораблю сверхсветовую скорость, благодаря локальному искривлению пространства. Это хорошо проработанная в научной фантастике тема, которая, конечно, пока что так и звучит совершенно фантастически. Тем не менее, периодически появляются “варп-новости”, в которых нет физики, но есть занятные картинки. Очередной свежий вариант корабля с “варп-двигателем” – в заметке io9.com и в галерее на Flickr.com.



Комментарии (4) »

Cat(Воскресная юмористическая тема.) Секретная лаборатория внутри АНБ построила особый, сверхчувствительный, оптоэлектронный аппарат, основанный на квантовых эффектах. Назначение аппарата – чтение мыслей на расстоянии. Секретная техника работает. Проблема с аппаратом в том, что мыслительные процессы человеческого мозга тоже построены на квантовых эффектах, а из-за них всякий элементарный сеанс чтения чужой мысли аппаратом приводит к тому, что сама эта мысль изменяется – типичная ситуация в квантовой физике: измерение прямо влияет на состояние измеряемой системы. Достаточно только посмотреть на квантовую систему, чтобы она тут же стала совсем иной.

Так что мыслечитающий аппарат, конечно, выдаёт некий результат чтения, но автор мысли, в итоге, думал о чём-то другом. Теперь исследователи выясняют, как построить особую мыслеволновую функцию, описывающую всевозможные мысли данного человека, чтобы, на втором этапе, найти спутанные мысли. Тогда по одной из пары спутанных мыслей, принятой аппаратом, можно будет восстановить ту, которую в этот момент подумал исследуемый человек. Если всё сложится удачно, то тут намечаются теоретические перспективы по эффективному внушению нужных мыслей.

Интересно, что аппарат, в его нынешнем состоянии, оказался не слишком полезным даже для того, чтобы читать зрительный сигнал. Надеялись, что удастся получить “вид от первого лица”, когда на экране показывается то, что видит в данную минуту конкретный индивид, находящийся в поле приёма специальной антенны, или незаметно дооборудованный носимым передатчиком. Квантовая биофизика помешала: зрение человека в существенной мере основано на приобретённом мозгом опыте, то есть, грубо говоря, на памяти, а память, опять же, – квантовая. Так что в результате пассивной работы аппарата исследуемый человек начинал видеть не совсем то, что отображалось на экране системы. Если вообще тут уместно употреблять оборот “начинал видеть” – ведь он и не знал, что его зрительные образы пытаются прочитать. И, конечно, ни та, ни другая картинка не совпадали с наблюдаемой реальностью, как она представлялась оперативнику, высланному сопровождать объект исследовательского наблюдения в полевых условиях.

Проект, впрочем, не закрыли.



Комментарии (1) »

RobotЗавершающийся 2013 год был насыщен разнообразными робототехническими новинками. Роботостроение развивается шустро, вполне можно ожидать здесь очередной технологической революции. Какие виды роботов – самые ожидаемые?

Многое, конечно, зависит от контекста, в котором пребывает тот, кто роботов ожидает. Например, автономные боевые роботы, те, которые оснащены “летальной функцией”, – кто-то ждёт их. Относиться к самой идее можно по-разному, но появление таких роботов обязательно станет очередной точкой отсчёта в истории робототехники.

Вот уже несколько лет хорошо заметна тенденция к миниатюризации роботов. Поэтому интересно было бы увидеть не только летающих роботов размером с небольшую стрекозу, но и настоящие наномеханизмы, будь то известная “умная пыль” или какие-нибудь роботы-микробы, ползающие по секретным лабораториям. В последнем случае, для того чтобы увидеть робота потребуется микроскоп.

Роботы, именуемые беспилотниками, хорошо освоили воздушное пространство. Неплохо обстоит дело и с наземными системами: специальные автомобили-роботы уже действуют на дорогах общего пользования, не исключено, что через несколько лет мы увидим серийные автомобили с автоматическим управлением. Тут, кстати, ещё вопрос: где подобные автомобили появятся первыми – в гражданском автомобилестроении или на военной службе?

А вот с надводными, и, в особенности, с подводными, роботами дела пока не так прекрасны, как на суше и в воздухе. Естественно, разработки есть, есть и работающие аппараты, но в плане новинок и массовости – заметно отставание, которое будет сокращаться. Так что хотелось бы увидеть новых подводных роботов. Желательно – автономных и массовых.

Подводные роботы – хорошо. Подземные – ещё лучше. Вот уж где неосвоенное пространство, так это под землёй. Про подземных роботов мало что слышно, а точнее будет сказать: вообще ничего не слышно. Представить, что темой совсем не занимаются, гораздо сложнее, чем предположить, что разработки ведутся в закрытом режиме. Но рано или поздно что-то покажут и заинтересованной публике, не имеющей соответствующих допусков. Возможно, уже в наступающем 2014 году. И это будет интересно.



Комментарии (2) »

Amazon Prime Air – это концепция оперативной доставки заказов беспилотниками. То есть, за эту популярную тему взялся и Amazon, но пока что у них нет разрешения и, собственно, самой системы. На странице по ссылке есть видео.

Amazon Prime Air



Комментарии (6) »

PhoneТелефонии немало лет. На смену проводной – повсеместно пришла беспроводная. За десятилетия эволюционировали и телефонные аппараты. Интересно взглянуть, как богател набор встроенных в аппарат функций, подходящих для сбора информации (в том числе, негласного сбора).

Первые аппараты работали либо в режиме точка-точка, либо через оператора. При подключении к проводам появлялась возможность прослушивания разговора. Это, собственно, тривиальный случай, но его тоже нужно отметить. Разговор мог в штатном режиме прослушивать оператор.

Параллельно с ростом проникновения телефонной связи развивались и средства негласного получения информации. Строгой связи с телефонией тут, конечно, нет. Однако классический проводной телефон, вошедший в употребление во второй половине 20-го века, за редкими исключениями, являлся “жучком”, установленным в квартире. Дело в том, что в телефонном аппарате есть узлы, которые, будучи запитанными от телефонной сети, создают канал утечки информации из помещения: подключив специальное, – но не очень сложное, – оборудование к абонентскому проводу (телефонной паре), можно принимать возникающие наводки и слушать разговоры в помещении примерно так же, как если бы мы использовали микрофон. Подчеркну: речь не о разговоре по телефону, а о разговорах в комнате, “возле телефона”.

Например, один из таких узлов – электрический звонок, находящийся в аппарате. Благодаря удачной конструкции, он, в качестве побочного эффекта, успешно преобразует акустические колебания в электрические сигналы, поступающие в телефонную линию. Снимать такой сигнал можно только в том случае, если удалось подключиться напрямую к “последней миле” заданного абонента. Зато качество сигнала очень неплохое.

Надо сказать, долгое время подобное подключение было возможно на так называемых телефонных кроссах АТС, куда абонентские пары выводились напрямую, без частотного уплотнения и прочих фокусов с обработкой. То есть, специалистам не требовалось выезжать в условный “конкретный подъезд”. Достаточно было организовать подключение на территории АТС.

Итак, классический телефонный аппарат позволял без особых сложностей прослушивать помещение, где он установлен. Но только в том случае, если аппарат подключен к телефонной розетке. Отключили – данная конкретная утечка невозможна. Впрочем, возможно организовать утечку, использующую выключенный телефонный аппарат, другими способами. Но все они по сложности существенно превышают описанный выше метод, а кроме того, не являются специфичными именно для телефонии. (Пример: настенные электронные часы. Но это другая история.) Больше из классического аппарата ничего особенного вытянуть нельзя. Продвинутые электронные модели, конечно, имели память для телефонных номеров: она часто фигурирует в детективах, позволяя тому или иному персонажу узнать, куда последний раз звонил “пользователь телефона”. Да ещё, наверное, можно снять отпечатки пальцев с трубки, но, опять же, это не особенность телефона.

Первые мобильные телефоны, надо сказать, устраняли каналы утечек по проводам, ввиду отсутствия последних. Взамен, до введения приемлемого шифрования, телефонные разговоры стало возможно прослушивать в эфире. Некоторые модели мобильных аппаратов, практически как и проводной телефон, позволяли (позволяют) прослушивать, с некоторого расстояния, разговоры, даже если аппарат находится в режиме ожидания. Но процесс организации утечки весьма сложен, требуется дорогостоящее, редкое оборудование и подходящие условия в эфире. Более того, эта, скорее теоретическая, возможность, по своему практическому результату полностью повторяет соответствующую функцию проводного телефона.

Самая главная новинка мобильной связи, в контексте нашей истории, – это возможность определения географического положения носителя жучка. Определить местоположение можно быстро, удалённо, и чисто техническими средствами. Принципиально новая функция, недоступная ранее. Сигнал аппарата содержит уникальные метки. Для определения положения нужны несколько приёмников, специальное оборудование и навыки радиопеленгации. GPS не требуется, но и простыми средствами не обойтись. Особенно благоприятной ситуация была в те времена, когда мобильные телефоны не получили ещё повсеместного распространения. Впрочем, других прорывов, кроме определения местоположения, первые мобильные телефоны не принесли, так как набор сервисных функций у них совпадал с электронными проводными телефонами.

С годами список сервисных функций расширялся. Переход на цифровую мобильную связь сразу же создал возможность локальной записи телефонных разговоров владельца аппарата. Ещё до появления современных смартфонов, такую запись можно было организовать, используя недокументированные возможности (читай – ошибки) аппарата. Электронная записная книжка, перекочевавшая в телефон, позволила получать подробную информацию о контактах владельца. Если эту книжку удалось скопировать, то раскрывались имена и фамилии, а не только телефонные номера. Память аппарата вообще является фундаментом для целого ряда дополнительных функций жучка: тексты SMS, сведения о частотности звонков на те или иные номера, данные о взаимодействии аппарата с сетью оператора – это всё новые возможности.

Итак, на очередном этапе эволюции к возможностям жучка добавились: функция определения местоположения, теоретическая локальная запись разговоров по телефону, локальное накопление информации о контактах.

Появились смартфоны, оснащённые большими экранами, мощными процессорами, и, что главное, фото- и видеокамерами. Теперь аппарат получил возможность вести наблюдение за реальностью вокруг его владельца, а из памяти можно вынуть большое количество снимков, запечатлевших друзей и знакомых владельца, для многих тут же указаны имена, фамилии и, естественно, номера телефонов. Наличие нескольких видов каналов внешнего доступа у смартфона (кроме чисто “телефонной” сети, добавились WiFi, Bluetooth и т.д.) сильно снижает затраты по подключению к нужным функциям жучка извне. Кроме того, перемещение “сервисных” возможностей на борт аппарата позволяет, например, получать сведения о местоположении абонента штатными локальными средствами – тут помогает GPS.

Просмотр веб-сайтов, электронная почта – благодаря большой памяти аппарата теперь можно получить доступ не только к каким-то там SMS, но и к подробному архиву личных сообщений. Физический доступ к аппарату, как в случае со старыми трубками, уже не нужен: достаточно удалённо установить приложение. Это же приложение сможет слушать разговоры с помощью встроенного микрофона и, при необходимости, делать фотоснимки и вести видеозапись.

Удачное сочетание функций определения положения в пространстве, измерения ускорений (тот или иной “гироскоп”, как известно, тоже наличествует в смартфоне) и ориентации аппарата, а также получения фотоснимков и анализа сигналов WiFi, уже позволяет картографировать места обитания носителя жучка в удивительных подробностях, позволяющих построить детальную 3D-модель его квартиры, вместе со всем внутренним убранством. Да, нужно установить приложение. Но, как показывает практика, никто пока что не отменил и недокументированных возможностей.

Так что новый этап эволюции позволил жучку-телефону записывать сведения о привычках владельца, собирать его личную почту, строить модели жилища. В список не попали традиционная запись разговоров различными способами и определение местоположения. В новых телефонных аппаратах уже добавляют сканеры отпечатков пальцев, а личные данные из телефона давно приучили копировать “в облако”, чтобы, опять же, не требовался физический доступ к аппарату.

На всё про всё потребовалось около 130 лет. Не так уж и долго, с другой стороны.



Комментарии (2) »

Хорошо известна такая оценка современного состояния мобильной связи: по сути, каждому гражданину выдали продвинутый электронный “жучок”, который он всегда держит при себе. “Жучок”, конечно, это мобильный телефон. Сейчас функциональность “жучка” растёт шустро, но это другая история. А вот если соединить “жучки” с повсеместным видеонаблюдением, то возникнет занятный эффект, описанный в фантастических произведениях: камера, оснащённая функцией распознавания образов, работающая вместе с детектором мобильных аппаратов, позволит выделять в потоке городских улиц людей, перемещающихся без мобильного телефона. Естественно, такие люди покажутся “подозрительными лицами”. Потому что – зачем они оставили где-то телефон? Скажем, сейчас некоторые пытаются таким образом стать “невидимыми”. Для чего?



Комментарии (7) »
Навигация по запискам: « Позже Раньше »