Реплика: о пользе меток на результатах работы ИИ
Кстати, метки (“водяные знаки”), которые позволят определять тексты, сгенерированные системами ИИ (LLM), прежде всего полезны самим разработчикам этих систем: так они смогут избежать “обучения” новых “моделей из нейросетей” на текстах, сгенерированных другими системами ИИ (ну, или предыдущими итерациями одной и той же ветки). Подобное “обучение” второго и третьего порядка может привести к нежелательным результатам. Если всё направление раньше не развалится. Естественно, это относится не только к текстам, в традиционном понимании, но и к изображениям, звукам. Однако, с точки зрения такого подхода к обучению ИИ, всё – текст.
Адрес записки: https://dxdt.ru/2023/06/07/10268/
Похожие записки:
- Работа GPS и коррекция по данным многих устройств
- Нормализация символов Unicode и доменные имена
- Неверные обобщения "принципа Керкгоффса"
- Постквантовые криптосистемы и квантовые компьютеры
- Open Source и добавление "вредоносного кода"
- Техническое: экзотические настройки в SPF
- Интерпретация DMARC в разрезе DKIM
- Письмо про приостановку разработки ИИ
- Возможное обновление алгоритмов DNSSEC в корне DNS
- Исчезновение "фрагментации Интернета" с разных точек зрения
- Скорость из OBD и программы-навигаторы
Кратко этот сайт характеризуется так: здесь можно узнать про технологический прогресс, Интернет, математику, криптографию, авиацию, компьютеры, авиационные компьютеры, вооружения, роботов, вооружение роботов, армии мира, астрономию, космические исследования. И иногда о чём-то ещё (
Комментарии читателей блога: 3
1. 7th June 2023, 22:25 // Читатель Nataraj написал:
Хотел поделиться вот какой своей заметкой, сделанной, простите, во вконтакте…
======
Главная опасность ИИ на мой взгляд в возможности формирования устойчивых петель обратной связи ИИ Общество.
Помните, если напротив колонки поставить микрофон и по нему стукнуть, но начинается дикий писк или рев. Вот тут так же.
Человек что-то спрашивает ИИ, и ИИ отвечает такое, что еще больше людей начинают ИИ спрашивать это же самое. И так по нарастающей.
Пока это невинный шум, или какой-нибудь маркетинг, еще ничего. А вот если оно случайно или намеренно попадет в общественно резонансную тему, и эту петлю обратной связи вовремя не отстрелят, мало не покажется никому.
======
https://m.vk.com/wall137211888_5321
А вот про устойчивую петлю обратной связи в смысле обучения на своем же выхлопе я не подумал… А надо было бы…
Но тут вероятный ущерб меньше… Оно просто уйдет в какие-то свои, только ему понятные, локальные экстремумы и будет счастливо вариться в них. А для человека они не будут иметь никакого смысла…
2. 7th June 2023, 22:47 // Александр Венедюхин ответил:
> А для человека они не будут иметь никакого смысла
Это да. Тут главное, чтобы результаты работы такого ИИ не начали заполнять интернеты, где их будут выдавать за новый “интеллектуальный образец”.
3. 7th June 2023, 23:00 // Читатель Nataraj написал:
И внезапное продолжение.
Пишет Дима Скирюк (типа писатель. Бывший, если они вообще бывшими бывают)
=====
Моя дражайшая супруга сегодня тестировала ИИ и попросила его сочинить ирландский анекдот. Результат нас поразил. Во-первых, это и правда смешной анекдот с непредсказуемым финалом. Во-вторых, это анекдот с реальным ирландским колоритом, он вполне мог бы появиться естественным образом.
Ну и, собственно, сам анекдот:
– – –
“Как-то ирландец спросил у своего нового искусственного интеллекта: “А ты можешь пить пиво?” На что ИИ ответил: “Нет, я не могу пить . Я всего лишь компьютер”. Ирландец нахмурился и сказал: “Ну и что же ты тогда умеешь делать?” ИИ ответил: “Я могу решать сложные математические задачи, анализировать данные и помогать в управлении бизнесом”. Ирландец задумался и сказал: “Ну ладно, ты хотя бы не заберëшь МОË пиво”.
– – –
Скалли, они уже здесь…
=====
https://m.vk.com/wall405839224_7643?from=feed
Написать комментарий