“Песочница – это такая изолированная среда, где производится виртуальное исполнение подозрительного кода, чтобы без ущерба выявить возможную вредоносную активность. Вредоносы развиваются, логика их активации пользователем становится всё сложнее. Поэтому песочница должна имитировать действия пользователя всё точнее и точнее. Мы постоянно улучшали модель пользователя. Наша модель “открывала” файлы, “двигала” мышкой, генерировала клавиатурный ввод – сперва достаточно простые марковские цепи, потом многоуровневая система библиотек из словарей, построенная на литературном корпусе, с нелинейной памятью.

В какой-то момент выяснилось, что модель полностью выполняет все пользовательские задачи. Если процесс не прерывался вредоносным кодом, то обработка входящих сообщений в песочнице давала такой же результат, как и действия настоящего пользователя; а нередко результат был лучше. Оставалось только достать этот результат из песочницы и – настоящий пользователь уже оказывался не нужен. Неожиданно открывшиеся перспективы поражали.

Но коллеги из отдела “Основания математики”, говорившие что-то про диагонализацию, оказались правы. Как только мы попытались реализовать механизм безопасного вытаскивания наружу результата работы модели пользователя, выяснилось, что в модель требуется включить функцию взаимодействия с песочницей – иначе непоправимо страдала полнота: например, нельзя не учитывать такой триггер, как копирование файла на внешний, относительно песочницы, носитель. К сожалению, это означает, что внутри нашей песочницы придётся эмулировать ещё одну песочницу, которая нужна для полной модели пользователя. А внутри новой песочницы – нужна ещё одна. Казалось бы, на третьем уровне можно остановиться: потому что если “вывернуть” получившуюся конфигурацию, то она, в алгоритмическом смысле, окажется эквивалентной новому шагу конструктивного построения полной модели. Но операция “выворачивания” точно так же требует расширения модели.

Всё это довольно сложно. В общем, сейчас нас занимает совсем другая мысль: не являемся ли мы сами чьей-то моделью пользователя, ограничения которой не позволяют довести нашу песочницу до ума?”

(Май 2017 г.)



Комментировать »

Суперпозиция на омонимах может быть развита вплоть до демонстратора важных онтологических принципов, стоящих за квантовыми вычислениями. Фраза “личинка заблокировала собачку в замке” содержит заметно более одного значения среди возможных. Однако, если сопроводить фразу “настроечным” текстом, значение схлопывается в конкретный вариант.

“Насекомые могут мешать работе механизма, бывает, что и личинка заблокировала собачку в замке”. Это вариант для жуковедов. Если же в “настроечном” тексте речь шла о домашних животных феодалов, то собачка вполне может заранее превратиться в маленькую собаку. Фактически, слова начального текста, взятые вместе с фактом интерпретации омонимов, проявляют структуру, на которой успешно строится и понимание “квантовой запутанности” с неравенствами Белла, и другие элементы популярной квантовой механики, которые, почему-то, едва ли не повсеместно спешат назвать “контринтуитивными”.

Если хотите, то упомянутая структура управляет ударением в омографе “замок”. (Тут ещё интересно то, как подобное теряется в LLM, – в “больших языковых моделях” ИИ, – но это отдельная тема.) Как можно этим же способом охватить и принципы квантовых вычислений? Часть уже должна быть понятна из суперпозиции “собачек”. На следующем шаге потребуется представление интерференции состояний. То есть, требуется добавить ещё омонимов, но не каких угодно, а таких, которые окажутся связаны с состояниями уже используемых в целевой фразе. Самый простой вариант – для того, чтобы “собачка” стала механическим элементом, можно использовать “ключ” и “треснул”: “треснул ключ, а личинка заблокировала собачку в замке” (и засов теперь не сдвинуть). Использование “ключа” вызвало интерференцию, резко снизив вероятность интерпретации слова “собачка” как обозначающего мелкое животное белого цвета.

Заметьте, что такая интерпретация всё ещё возможна в принципе, если немного расширить контекст. “Чтобы вновь запустить цирковую карусель, медведь доской треснул ключ, а личинка заблокировала собачку в замке” (круговорот диковин в шапито: гигантская личинка загоняет собачку в макет замка). Интерференция позволяет перегонять вероятность в нужном направлении, а в вычислениях такое должно работать потому, что превращение “собачки” в механическую деталь позволяет определить наличие “ключа” даже в том случае, когда начало фразы не приводится: если ударение в “замке” на последний слог, то где-то раньше стоял “ключ”, который “треснул”. То есть, если представить, что начало предложения может быть разным, то способ постановки ударения в “замке” позволяет определить, механическое там что-то было или нет. Обратное распространение значений. Впрочем, не сказано, кто же тогда предложение читает.

Это забавно. Однако, сколь бы странным подобное рассуждение ни показалось, именно структуры данного типа, существующие выше морфологии, позволяют строить осознаваемые (не всеми, но некоторыми) интерпретации квантовой механики, и даже планировать построение квантовых компьютеров. Но для LLM это недоступно.



Комментировать »

Как с максимальной точностью ответить на вопрос “Что ты сейчас читаешь?”, заданный в мессенджере? Можно ответить, что “читаю сообщение в мессенджере”. Но ведь можно же и ещё точнее: “Сейчас я читаю слово это”. И нажать Enter. Но и тут есть тонкость: слово “сейчас” стоит в самом начале, так что к моменту начала чтения слова “это” – “сейчас” уже устареет. Соответственно, максимально строгий вариант такой: “Я читаю последнее слово этого предложения сейчас”. Особенно продвинутые читатели спросят, почему же речь о слове, а не о последней букве, например. Очень просто: читать можно минимум слово, а отдельную букву читать нельзя (если, конечно, она не является словом). Этому есть много причин, основных две: во-первых, попробуйте прочитать “ъ” (твёрдый знак, а не сходная по начертанию газета или мнемонический знак, обозначающий некоторое сложное понятие); во-вторых, чтение, как процесс, определяется свойством сборки букв в слова (мы рассматриваем классическое фонетическое письмо, а не пиктограммы и специальные конструкции вроде трансцендентной алгебры). Так что разумно ограничиться словом “сейчас” в конце предложения. Без точки, это допустимо для чатика.

(Этот текст я как-то уже публиковал, но не здесь.)



Комментировать »

Развивающаяся “битва за банхаммер” приводит к тому, что в “этих интернетах” появляются новые плоскости для осуществления сегментации, поскольку блокирование сейчас модно делать на достаточно высоком уровне – на уровне приложений. Недавний пример – стена (временная) регистрации в Twitter. Есть масса других примеров, где администраторы вроде бы “глобального” массового сервиса ограничивают к нему доступ для некоторых IP-адресов, но не на уровне транспорта, а средствами HTTP или внутри приложения на смартфоне. Вообще, может показаться, что, с точки зрения “маршрутов” и BGP – ничего не меняется: пакеты если ходят, то так и ходят, как ходили. Для инженера NOC, допустим, прежде всего важно, что отправленный по заданному адресу пакет до этого адреса добрался, а что там происходит на уровнях, которые строятся из пакетов, HTTP это или QUIC какой-нибудь, – дело десятое.

Однако, хоть популярное нынче блокирование и выполняется на один или два уровня выше, чем IP, это самое блокирование может спуститься ниже, но уже в виде технологического спагетти. Это происходит в тот момент, когда просят как-то повзаимодействовать с этим блокированием (неважно, в какую сторону) на сетевом уровне. Всем знакомый пример: VPN-доступ, позволяющий прийти на сервис с другим (географически) сетевым адресом. IP заворачивается внутрь UDP, а туннели неожиданным образом проходят между логическими уровнями. А IP в туннеле используется для создания TLS-соединения со скрытым сервисом. Туннелирование туннелей. Сегментация на уровне приложений спускается в маршрутизацию, где порождает неожиданные эффекты доставки пакетов, особенно, если пересекается с anycast-узлами. Попробуйте зарисовать логику на листочке бумаги – получится путаница из спагетти, напоминающая нехорошую практику в области кабельных соединений.

Дело в том, что хоть блокировать многие предпочитают на разных уровнях, но привычный идентификатор, по которому ставят задачи блокирования, это всё равно IP-адрес (не всегда, но очень часто). Конечно, никто не отменял локального блокирования на уровне физических портов, на уровне приёма BGP-анонсов, однако для массовых и популярных сервисов, которые работают поверх Интернета, – это всё ещё применяется редко. Напротив, сейчас видно, как довольно быстро выстраивается новый перемешивающий уровень (хороший пример – технология ECH, создающая каналы “TLS внутри TLS”). Это нивелирует возможности прицельного блокирования на уровне базового транспорта или, условно, “физических портов”, но позволяет построить банхаммер уровня приложений. Если, конечно, сохранится связность Сети, пусть и через спагетти-коммутацию транспортного уровня.



Комментировать »

Можно представить “исторический” детектив, – как художественное произведение, – разворачивающийся в средневековом европейском сеттинге: суровый инквизитор-специалист прибывает в определённый город с заданием искоренить еретиков-культистов, о бурной деятельности которых донесли агенты. При этом доклады агентов приходили подробные и детальные: выглядело так, что еретики-культисты почти уже захватили город.

Однако на месте инквизитор обнаруживает, что никаких культистов в том городе не видно. Первое предположение: городская агентурная сеть готовила фиктивные доклады, чтобы как-то оправдывать свою прочую деятельность, но агенты переусердствовали – реально прислали инквизитора. Впрочем, такой расклад тоже вполне себе создаёт для него дело. Однако встреча с местным старшим агентом только всё запутывает: тот утверждает, что отчёты писались (на пергаменте, конечно) полностью по реальным событиям и только по ним, но одна проблема – недавно все локальные записи об этих культистах исчезли, так что подтвердить нечем. Тогда инквизитор проверяет записи и манускрипты, которые привёз с собой: странным образом, но всё, что касалось культистов, – исчезло.

В ходе разбирательства в городе инквизитор выясняет, что какие-то следы культистов всё же есть, но со странностями: например, их магистр в какой-то момент по совершенно неясным причинам потерял доступ к святилищу – просто, исчезли ключи (магические, конечно), позволявшие входить в здание. В святилище проходили собрания, которые позволяли развивать общественное влияние культа. Естественно, исчезли и все манускрипты, свитки и другие носители как важнейших текстов, так и сиюминутных сведений – списки последователей, статистика сборов пожертвований, календари, расписания и расстановки для обрядов (это уже детали). То есть, ко всей тематической информации, к реквизитам доступа (кристаллы и металлические механизмы) оказалась применена известная максима: “данные удалены” (что бы это ни значило в средневековом сеттинге, да ещё и относительно механизмов). А без этих данных и реквизитов доступа – культ уже не работает, поэтому культисты просто разошлись и занялись другими делами.

В какой-то момент инквизитор отправляет запрос в Центральную библиотеку (шифровкой по почте, конечно, но гонцы подобные депеши доставляют быстро) – дабы получить какие-то подробности из отчётов о культистах. Но, как вы уже догадались, ответ не обнадёживает: записи исчезли и в Центральной библиотеке – там нет отчётов о еретиках-культистах из этого, определённого города (но остались отчёты о других). И даже исчезли записи об отправке самого инквизитора с заданием. Но, к счастью, маршал, который составлял задание, помнит, что действительно его составлял, а вот записи – отсутствуют. Поэтому инквизитору всё же лучше побыстрее вернуться обратно, чтобы попытаться разобраться в ситуации.

В итоге, собрав ещё некоторую информацию, хорошо обдумав события, инквизитор приходит к выводу, что некая третья сила, о которой до этого момента не знала Инквизиция, разобралась с еретиками-культистами раньше, но сделала это новым, “информационным” способом – удалив тематические данные из всех источников. Можно было бы разделаться с еретиками-культистами более суровыми методами, но это наверняка вызвало бы агрессивную реакцию, и, возможно, не только со стороны самих культистов. Кроме того, шум и слухи могли бы добавить популярности культу. “Удаление данных” оказалось гораздо более эффективным методом: даже инквизиторы теперь заняты выяснением способов незаметного и масштабного удаления данных, а о культистах – просто забыли.

Конечно, некоторые моменты тут выглядят надуманными, но это только из-за средневекового сеттинга. Достаточно перенести историю в Новое средневековье, в контекст “удаления цифровых следов и доступов”, чтобы она обрела нужную строгость.



Комментировать »

Пока праздничная неделя продолжается. Раньше встречалась такая научная фантастика – литературное течение (сейчас, по-моему, её очень мало осталось). Там, кроме прочего, описывали всякие сверхдвигатели для космических кораблей, которые, скажем, “бороздят просторы Большого театра”, ну или летают между звёздными системами и даже галактиками. Некоторые концепции включали использование светового излучения – фотонные, значит, это были концепции.

Вот что интересно. С одной стороны, используемые сейчас на практике хорошо проверенные физические теории, – в основном, специальная теория относительности, – в том что касается дальних межзвёздных перелётов многое запрещают. С другой стороны – можно пофантазировать, что какие-нибудь суперсредства для перемещения кораблей на астрономические расстояния за приемлемое время всё же появятся. (По крайней мере, NASA этот вопрос пока не закрывает.)

И вот наверняка практические устройства, супердвигатели или гиперпространственные перемещатели там какие-нибудь, будут созданы на основе лазерной техники. Почему? Потому что именно лазеры уже сейчас позволяют с практически разумными затратами создавать огромные плотности электромагнитного поля в пространстве. Петаваттные лазеры уже сейчас выдают интенсивность что-то около 10^22 Вт/см^2, а это много. При этом понятно, что новые физические эффекты, которые могли бы позволить построить звездолётный гипердвигатель, будут вертеться вокруг большой плотности энергии в пространстве. Ведь, так или иначе, но именно концентрируя энергию, физики пытаются разобрать это самое пространство на фундаментальные дискретные кирпичики. При этом ускорители частиц – слишком огромны по размерам и инфраструктурно сложны. А вот продвинутые лазерные системы, продырявливающие пространство в нужных местах, это совсем другое дело.

Вот именно из-за лазеров перспективный двигатель в фантастическом звездолёте весь светится синим и зелёным: побочные излучения, плюс накачка и подсветка – а вы как хотели?

(Это просто мне напомнили, что в 2010 – 50 лет созданию лазера.)



Комментарии (7) »

sitebookНа днях, ЭКСМО в серии “Новейшая энциклопедия” выпустило книгу “Создание сайтов”, авторы: Александр Венедюхин (то бишь, я) и Андрей Воробьев. Уже есть книга в магазинах, можно спрашивать.

Отмечу: эта книга рассчитана на тех, кто хочет заказать или даже самостоятельно сделать свой первый веб-сайт, на тех неспециалистов, которые хотят составить представление о веб-технологиях (а такое представление – вещь очень нужная).

То есть, книга – не сугубо техническое руководство (технических руководств по этой теме сейчас много есть на полках книжных магазинов), а, надеюсь, такой “информационно плотный” познавательный источник сведений по всем аспектам создания сайта и владения сайтом. Второй момент, кстати, даже более важный: среди основных ошибок начинающих сайтостроителей как раз непонимание того, что сайт – это процесс, а не “изделие”. Изложение в книге начинается от основ Интернета, читать нужно по порядку – хоть это и “Энциклопедия”.

Вообще, хотелось написать гораздо более объёмный том – но как-то вот график не позволил. Впрочем, думаю, наверстаем в следующем издании.



Комментарии (5) »

В февральском выпуске журнала “Вокруг Света” (в печатном) выйдет наша с Максимом Макаренковым небольшая статья про интернет-телевидение.

(Update: уже номер есть в продаже.)



Комментарии (2) »

Между прочим, на “Деканате”, чуть более четырёх лет назад, то есть, тоже в конце года, публиковалась история про НЛО. Вот фрагмент:

– Было темно, поэтому визуальный контакт исключался, я видел этот вытянутый летящий предмет только на экране тепловизора, – вспоминает пилот, сбивший объект (имя пилота не разглашается из соображений его личной безопасности). – Согласно инструкциям, мы пытались связаться с объектом, запрашивали его позывные, требовали посигналить бортовыми огнями…

Однако НЛО хранил радиомолчание и продолжал потихоньку виражить над заснеженным лесом. Тогда и был произведен пуск ракет на поражение.

Текст полностью – в архивах “Деканата”.



Comments Off on К Новому году, из старого

Юмористический сюжет:

Надалёкое будущее. Астрономы обнаруживают крупный астероид, направляющийся к Земле. Согласно вычислениям, он через год должен упасть в Тихий океан со страшной скоростью, в результате чего ожидается катастрофа с гибелью человечества. Отклонить астероид или уничтожить его – нет никакой возможности: он слишком большой.

Поэтому нужно строить особые подземные убежища (традиционные не годятся, нужно глубже и прочнее). Единственный способ. Все страны принимаются строить убежища. А группа энтузиастов-этнографов, узнавшая, что астероид упадёт как раз на тот остров в океане, где проживает экзотическое древнее племя примитивных аборигенов, отправляется их, аборигенов, спасать. Планируется убедить аборигенов перебраться в цивилизованное убежище на континенте. Путь до острова непрост и долог, да и сами переговоры с вождями-шаманами наталкиваются на трудности и сильно затягиваются. В результате: приключения на острове, сёрфинг, пальмы.

Тем временем, построить достаточное количество убежищ получается не у всех стран. Ресурсов не хватает, экономики быстро рушатся – все требуют друг у друга помощи и энергии. Рост напряжённости, разгораются старые международные конфликты, быстро перерастающие в глобальную войну. В результате глобальной суматохи и военных действий этнографы застревают на острове – про них просто забыли, – а большая часть человечества оказывается истреблена в войне.

В назначенный день астероид пролетает мимо Земли. Оказывается, в расчётах астрономов имелась ошибка (перепутали знак), которую, по причине глобальной войны, не исправили позднее.

Новую Цивилизацию начинают энтузиасты-этнографы, с помощью древнего островного племени аборигенов, которых они так и не смогли вывезти в подземное убежище.



Comments Off on Астероидная опасность

Первые военные действия будут вестись против утилитарных роботов-пылесосов. Их быстро победят с помощью других роботов. После чего начнётся настоящая война с машинами.



Comments Off on Война с машинами