dxdt.ru: занимательный интернет-журнал

Пишут, якобы The New York Times разрешили и рекомендуют использование LLM/AI-систем при подготовке материалов к публикации журналистами (newsroom staff). Впрочем, там в начале речь про внутренний инструмент с LLM – однако непонятно, насколько он “внутренний”, то есть, насколько это собственная разработка. Но тенденция забавная: новостные заметки и статьи СМИ, которые обработаны ИИ/LLM, опять попадут в ИИ/LLM, но уже в качестве материалов для “обучения” (да ещё и с корректировками новостника-человека). Роботы переписывают то, что другие роботы написали для роботов (поисковых, например). Процитирую заметку на dxdt.ru от декабря прошлого года:

Заметьте, что текст может быть не только газетной статьёй, но, как уже показывает практика, и законопроектом, и каким-то более важным распоряжением. То есть, вроде, формальный статус ИИ LLM тут получается на уровне “используется в работе сотрудниками”, а реальный статус – провайдер сервиса получает рычаги для целевого влияния на результат: такой spear phishing в квадрате.

Схема генерирования текста внутри LLM обладает большой глубиной, так что избавиться от качественно построенного криптографического “водяного знака” редактированием текста очень и очень непросто. Лишь бы текст был достаточно длинным. Перестановка некоторых предложений, перестановка некоторых слов, замена на синонимы, перефразирование небольших фрагментов – это всё точно не поможет, но зато предоставит дополнительную информацию для анализирующего бота, то есть появится содержательная статистика, отражающая эволюцию текста в токенах: кто, как, что именно меняет в словах и буквах.

Адрес записки: https://dxdt.ru/2025/02/18/15053/