Реплика: о пользе меток на результатах работы ИИ
Кстати, метки (“водяные знаки”), которые позволят определять тексты, сгенерированные системами ИИ (LLM), прежде всего полезны самим разработчикам этих систем: так они смогут избежать “обучения” новых “моделей из нейросетей” на текстах, сгенерированных другими системами ИИ (ну, или предыдущими итерациями одной и той же ветки). Подобное “обучение” второго и третьего порядка может привести к нежелательным результатам. Если всё направление раньше не развалится. Естественно, это относится не только к текстам, в традиционном понимании, но и к изображениям, звукам. Однако, с точки зрения такого подхода к обучению ИИ, всё – текст.
Адрес записки: https://dxdt.ru/2023/06/07/10268/
Похожие записки:
- Квантовые атаки на решётки
- Кибератаки, самоуправляемые автомобили и бот в смартфоне
- Starlink и взаимодействие с наземными GSM-сетями
- Цвета реки Колорадо
- GigaChat и "прочность шампанского"
- Трансляторы кода силами LLM в DARPA
- Поломки CrowdStrike и сегментация интернетов
- Совпадения тегов ключей DNSSEC и парадокс дней рождения
- Капитолийские ноутбуки
- Статья о квантовых вычислениях и постквантовой криптографии
- Кубиты в состояниях
Кратко этот сайт характеризуется так: здесь можно узнать про технологический прогресс, Интернет, математику, криптографию, авиацию, компьютеры, авиационные компьютеры, вооружения, роботов, вооружение роботов, армии мира, астрономию, космические исследования. И иногда о чём-то ещё (
Комментарии читателей блога: 3
1 <t> // 7th June 2023, 22:25 // Читатель Nataraj написал:
Хотел поделиться вот какой своей заметкой, сделанной, простите, во вконтакте…
======
Главная опасность ИИ на мой взгляд в возможности формирования устойчивых петель обратной связи ИИ Общество.
Помните, если напротив колонки поставить микрофон и по нему стукнуть, но начинается дикий писк или рев. Вот тут так же.
Человек что-то спрашивает ИИ, и ИИ отвечает такое, что еще больше людей начинают ИИ спрашивать это же самое. И так по нарастающей.
Пока это невинный шум, или какой-нибудь маркетинг, еще ничего. А вот если оно случайно или намеренно попадет в общественно резонансную тему, и эту петлю обратной связи вовремя не отстрелят, мало не покажется никому.
======
https://m.vk.com/wall137211888_5321
А вот про устойчивую петлю обратной связи в смысле обучения на своем же выхлопе я не подумал… А надо было бы…
Но тут вероятный ущерб меньше… Оно просто уйдет в какие-то свои, только ему понятные, локальные экстремумы и будет счастливо вариться в них. А для человека они не будут иметь никакого смысла…
2 <t> // 7th June 2023, 22:47 // Александр Венедюхин:
> А для человека они не будут иметь никакого смысла
Это да. Тут главное, чтобы результаты работы такого ИИ не начали заполнять интернеты, где их будут выдавать за новый “интеллектуальный образец”.
3 <t> // 7th June 2023, 23:00 // Читатель Nataraj написал:
И внезапное продолжение.
Пишет Дима Скирюк (типа писатель. Бывший, если они вообще бывшими бывают)
=====
Моя дражайшая супруга сегодня тестировала ИИ и попросила его сочинить ирландский анекдот. Результат нас поразил. Во-первых, это и правда смешной анекдот с непредсказуемым финалом. Во-вторых, это анекдот с реальным ирландским колоритом, он вполне мог бы появиться естественным образом.
Ну и, собственно, сам анекдот:
– – –
“Как-то ирландец спросил у своего нового искусственного интеллекта: “А ты можешь пить пиво?” На что ИИ ответил: “Нет, я не могу пить . Я всего лишь компьютер”. Ирландец нахмурился и сказал: “Ну и что же ты тогда умеешь делать?” ИИ ответил: “Я могу решать сложные математические задачи, анализировать данные и помогать в управлении бизнесом”. Ирландец задумался и сказал: “Ну ладно, ты хотя бы не заберëшь МОË пиво”.
– – –
Скалли, они уже здесь…
=====
https://m.vk.com/wall405839224_7643?from=feed
Написать комментарий