dxdt.ru: занимательный интернет-журнал

Подборка некоторых заметок на dxdt.ru по теме ИИ (Искусственного Интеллекта):

ИИ на модных LLM/VLM и задачи-картинки – современные системы ИИ не могут справиться с простейшими задачками, сформулированными при помощи картинок.

Машинный ИИ в книгах прошлого века – 75 лет назад вышла книга Giant Brains or Machines That Think.

Тексты про ИИ и Situational Awareness с программным кодом – в весьма популярной статье про состояние ИИ обещают суперинтеллект, пишущий “триллионы строк программного кода”, уже в ближайшие годы.

LLM и задача про название книги (на примере GigaChat) – для элементарной задачки, доступной младшему школьнику, GigaChat генерирует абсурдный “текст-ответ”.

Мешанина токенов в LLM – небольшое пояснение с примерами про “веса и токены”, которые используются LLM для генерирования текстов.

Машинное обучение на электронах – шуточная заметка про “обучение нейростеки” на результатах квантовых опытов.

ИИ и формулы окружностей – отличительной чертой действительно интеллектуального результата обработки данных является возможность заменить “поток чисел” корректной и короткой формулой.

GigaChat и “прочность шампанского” – конкретный пример, показывающий, что LLM не владеют никаким “смыслом”, но всё равно генерируют “осмысленный” текст, в котором утверждают, что шампанское прочнее “обычного хлопка”.

“Вес” значений омонимов в текстах для LLM – проявление омографов в результатах выдачи LLM.

Морфологический переворот как инструмент в “тесте Тьюринга” – LLM не связывают с самим текстом никакой смысл или структуру, поэтому омонимы в запросе позволяют показательно “переключать ветки” генерируемого текста.

Пример про запутывание контекста в LLM (GigaChat) – конкретные примеры работы LLM с омонимами (“собачка в замке”).

Обобщение ИИ и “кнопки на пульте” – уровень рефлексии и ритуальное восприятие “пультовых систем”, как самодостаточных структур.

Галлюцинации ИИ в словах года – влияние хайпа на словари и влияние словарных статей на отношение к публикациям про LLM-чаты.

Неверная интерпретация систем ИИ как “инструмента для анализа” – некоторые пользователи ошибочно полагают, что системы ИИ/LLM “собирают и проверяют информацию”.

Широкие проблемы применения ИИ – “нейросети” могут применять как придётся, полагаясь на “компьютер не может ошибаться”.

Перспективный ИИ в “разработке кода” – ИИ-говорилка вместо программиста и тестовые примеры в реализациях шифров.

Вычислимые опасности ИИ – экономикой многих предприятий уже управляет MS Excel, LLM-генераторы текстов – ещё удобнее, осталось дождаться “нечеловеческого интеллекта”.

Детектирование текстов, сгенерированных ИИ – можно ли точно детектировать выдачу одной программы при помощи другой программы.

Развитие автоматических “говорилок” (чат-ботов) – про мультфильм “Трое из Простоквашино” (1978 года).

Нейросети из пикселей – “растягивание” пикселей и подмена утерянных данных на сгенерированные.

Закладки в системах с машинным обучением – недокументированные возможности, скрытые в коэффициентах “нейросетей”, предназначенных для классификации объектов.

Этика, мораль и самоуправляемые автомобили – киберпанковский сюжет: взлом “этических алгоритмов” роботов.

Скрытный искусственный интеллект – возможно, “сверхразумный машинный интеллект” предпочитает осторожную тактику.

Опасный ИИ и общедоступные вычислительные ресурсы – о запретах на “алгоритмы ИИ”.

Пятнадцать лет назад, в июле 2009 года, на dxdt.ru вышла, среди прочего, записка про навигацию по ЭМ-обстановке, без GPS: передатчиков вокруг достаточно, многие из них зафиксированы, гарантируя, тем самым, узнаваемость картины. Но нужно предварительно измерить на месте, поскольку существенным образом вмешиваются тени и отражения. Цитата:

Поэтому построить “навигационное поле”, доступное для автоматических навигационных систем, можно на базе самых разных присутствующих в интересующем районе передатчиков. GPS, опять же, не требуется. Интересно, что тут “навигационное поле” оказывается неким “паразитным” элементом.

Вообще, описанный метод пассивного определения координат, на основе измерения радиообстановки и сопоставления характеристик принимаемых сигналов с опорной картиной из некоторой базы данных, вполне себе рекомендован для сотовых сетей 4G/5G, например. (Всё собираюсь написать подробную записку про вычисление координат на основе обобщённых методов “пеленгации”.)

В июне 2024 года заметок на dxdt.ru вышло не так уж много, но некоторые, всё же, можно отметить отдельно:

LLM и задача про название книги (на примере GigaChat) – несмотря на то, что LLM/GPT продолжают называть “искусственным интеллектом”, “сдавшим ЕГЭ”, эти синонимайзеры текстов не могут решать даже очевидные задачи уровня второго класа средней школы.

Техническое: имена в TLS и Nginx – как правильно различать “баги” и “фичи” веб-сервера Nginx, применительно к способу задания поддерживаемой версии TLS.

Планеты и окружности – верный ответ на “очевидный” вопрос о причине смены дня и ночи на Земле, который приводит к преобразованию Фурье и к объяснениям связанных онтологических подходов.

Байты ключей в квантовом компьютере – как именно могли бы быть восстановлены секретные ключи из записи трафика, если бы существовал подходящий квантовый компьютер.

Частотность слов и ChatGPT в аннотациях – частотность слова delve(s) и попытки обобщения при помощи научных статей результатов влияния LLM на научные статьи (как тексты).

И ещё раз порекомендую из этого списка заметку “Планеты и окружности“.

Вышли небольшие обновления тестового сервера TLS 1.3 tls13.1d.pw. А именно: в вывод результата добавлен разбор расширений ClientHello signature_algorithms (выводятся названия известных алгоритмов подписи) и ALPN (выводятся имена протоколов).

Некоторые записки за май 2024 года:

• Распределённые сети космических спутников NRO
• Мешанина токенов в LLM
• DNS как база данных
• Заголовки СМИ про “предположения учёных”
• Техническое: TLS-сообщение с постквантовой криптосистемой Kyber768

Небольшое техническое сообщение. Предположительно (!) (но вполне вероятно), что в относительно скором времени у меня не будет возможности продлевать регистрацию домена dxdt.ru. Домен этот я зарегистрировал в апреле 2004 года, но с тех пор времена и правила заметно изменились. Я не склонен переоценивать значимость сайта под данным доменом, но знаю, что записки, которые здесь иногда появляются, кто-то всё ещё читает. Поэтому и решил (несколько заранее) опубликовать это сообщение, чтобы, – если что, – не выглядело “внезапным исчезновением”. Отдельно отмечу, что если разделегируется dxdt.ru, то, соответственно, из заметных ресурсов, не будет доступен и tls.dxdt.ru – техническое описание TLS (впрочем, я там обновлений не планирую, так или иначе).

Пока продолжу публикации здесь. Если получится, то попробую перенести под другое имя, но это вряд ли.

Отмечу отдельно некоторые записки, вышедшие в апреле 2024:

• Техническое: где в ECDSA эллиптическая кривая
• DARPA и “недетерминированные” системы на борту
• “Почти что коллизия” и хеш-функции
• Сертификаты и их цепочки в вебе
• Новые атаки на SHA-256 (SHA-2): технические пояснения

Что касается доменов. В апреле 2024 года домену dxdt.ru – двадцать лет, а домену .ru – тридцать. Домены – часть DNS, а DNS – одна из определяющих черт современного Интернета. Впрочем, происходящие изменения “векторов движения” вокруг этих интернетов, а также и “сдвиг проекций” внутри интернетов (не менее “этих”), не очень располагают к построению оптимистических прогнозов. Можно, впрочем, отметить, что пока и сама Сеть, и многие ресурсы в ней, – всё ещё продолжают работать в глобальном варианте.

Добавил на страницу “Избранное” ещё пять записок:

• Полиморфизм закладок в стиле ROP
• Представления о квантах и радиостанции
• “Постквантовый” компьютер
• ИИ и формулы окружностей
• Модели вычислений и размерность пространства

В журнале “Интернет изнутри” опубликована моя статья “Постквантовая криптография и практика TLS в браузерах”. Статья, в основном, про то, как “квантовые вычисления” связаны с теоретико-информационной криптографией, и как это влияет на TLS в архитектурном смысле, но также рассмотрен свежий пример с Kyber768 в браузере Chrome.

Цитата:

“Квантовые вычисления в философском смысле – это попытка получить доступ на самом низком, самом прямом и «железячном» уровне к центральному «процессору» (ЦПУ) вселенных, то есть, к необозримому «чипу», на котором, возможно, окружающая действительность исполняется в режиме виртуализации. Это неплохо соответствует фольклорной интерпретации термина «квантовый» в отношении компьютера: элементы полупроводниковых чипов, находящихся внутри этого ящика, становились всё меньше и меньше, и вот, за гонкой нанометровых технологий, ситуация проваливается в квантовые элементы – получите квантовый компьютер. И действительно, пусть сам предполагаемый принцип квантовых вычислений не имеет ничего общего с уменьшением линейных размеров полупроводниковых вентилей и законами Мура, попытки физической реализации квантовых вычислителей уже сейчас подразумевают управление отдельными атомами. Если квантовый компьютер сделать не получится, эти наработки наверняка пригодятся для дальнейшей миниатюризации компьютеров классических. Что же касается теоретико-информационной криптографии, то она, похоже, выигрывает и тут.”

Некоторые избранные записки, опубликованные в марте 2024 года:

Алгоритмы преобразования в биометрии – процесс сравнения биометрических данных, который реализуют аппаратные и программные системы проверки, всегда связан с потерей точности; эта потеря точности – ведёт к потере избирательности; в результате оказывается, что для таких практических систем вообще не работает декларируемое предположение вида “биометрические показатели строго индивидуальны”.

Варп и квантовые компьютеры – необычная записка о борелевском шамане, который выигрывает у теоретического квантового компьютера с теоретическим алгоритмом Шора потому, что шаман лучше слышит ритм.

Компиляторы и ассемблер – современные компиляторы генерируют хороший машинный код, но место для использования разработчиком ассемблера всё равно остаётся; потому что компилятор – это, пока ещё, не разработчик.

Спутниковый радар Umbra – пример, – в картинках, – работы системы радаров, находящихся на низкоорбитальных спутниках.

Архитектура микропроцессоров и изоляция уровней исполнения – простой конвейерный “префетчер” команд использовался ещё в микропроцессоре Intel 8086, однако для “уязвимостей” типа Metdown/Spectre требуется ещё два шага: “префетчер” должен получить ветвящуюся логику, управляемую теми же кодами команд, которые “префетчер” обрабатывает, а для процессора в целом должно быть декларировано аппаратное разделение многих исполняемых потоков команд на базе общих для этих потоков элементов аппаратуры.