Реплика: о пользе меток на результатах работы ИИ

Кстати, метки (“водяные знаки”), которые позволят определять тексты, сгенерированные системами ИИ (LLM), прежде всего полезны самим разработчикам этих систем: так они смогут избежать “обучения” новых “моделей из нейросетей” на текстах, сгенерированных другими системами ИИ (ну, или предыдущими итерациями одной и той же ветки). Подобное “обучение” второго и третьего порядка может привести к нежелательным результатам. Если всё направление раньше не развалится. Естественно, это относится не только к текстам, в традиционном понимании, но и к изображениям, звукам. Однако, с точки зрения такого подхода к обучению ИИ, всё – текст.

Адрес записки: https://dxdt.ru/2023/06/07/10268/

Похожие записки:



Далее - мнения и дискуссии

(Сообщения ниже добавляются читателями сайта, через форму, расположенную в конце страницы.)

Комментарии читателей блога: 3

  • 1. 7th June 2023, 22:25 // Читатель Nataraj написал:

    Хотел поделиться вот какой своей заметкой, сделанной, простите, во вконтакте…
    ======
    Главная опасность ИИ на мой взгляд в возможности формирования устойчивых петель обратной связи ИИ Общество.

    Помните, если напротив колонки поставить микрофон и по нему стукнуть, но начинается дикий писк или рев. Вот тут так же.

    Человек что-то спрашивает ИИ, и ИИ отвечает такое, что еще больше людей начинают ИИ спрашивать это же самое. И так по нарастающей.

    Пока это невинный шум, или какой-нибудь маркетинг, еще ничего. А вот если оно случайно или намеренно попадет в общественно резонансную тему, и эту петлю обратной связи вовремя не отстрелят, мало не покажется никому.
    ======
    https://m.vk.com/wall137211888_5321

    А вот про устойчивую петлю обратной связи в смысле обучения на своем же выхлопе я не подумал… А надо было бы…
    Но тут вероятный ущерб меньше… Оно просто уйдет в какие-то свои, только ему понятные, локальные экстремумы и будет счастливо вариться в них. А для человека они не будут иметь никакого смысла…

  • 2. 7th June 2023, 22:47 // Александр Венедюхин:

    > А для человека они не будут иметь никакого смысла

    Это да. Тут главное, чтобы результаты работы такого ИИ не начали заполнять интернеты, где их будут выдавать за новый “интеллектуальный образец”.

  • 3. 7th June 2023, 23:00 // Читатель Nataraj написал:

    И внезапное продолжение.
    Пишет Дима Скирюк (типа писатель. Бывший, если они вообще бывшими бывают)

    =====
    Моя дражайшая супруга сегодня тестировала ИИ и попросила его сочинить ирландский анекдот. Результат нас поразил. Во-первых, это и правда смешной анекдот с непредсказуемым финалом. Во-вторых, это анекдот с реальным ирландским колоритом, он вполне мог бы появиться естественным образом.
    Ну и, собственно, сам анекдот:
    – – –
    “Как-то ирландец спросил у своего нового искусственного интеллекта: “А ты можешь пить пиво?” На что ИИ ответил: “Нет, я не могу пить . Я всего лишь компьютер”. Ирландец нахмурился и сказал: “Ну и что же ты тогда умеешь делать?” ИИ ответил: “Я могу решать сложные математические задачи, анализировать данные и помогать в управлении бизнесом”. Ирландец задумался и сказал: “Ну ладно, ты хотя бы не заберëшь МОË пиво”.
    – – –
    Скалли, они уже здесь…
    =====
    https://m.vk.com/wall405839224_7643?from=feed

Написать комментарий

Ваш комментарий:

Введите ключевое слово "ZQD7R" латиницей СПРАВА НАЛЕВО (<--) без кавычек: (это необходимо для защиты от спама).

Если видите "капчу", то решите её. Это необходимо для отправки комментария ("капча" не применяется для зарегистрированных пользователей). Обычно, комментарии поступают на премодерацию, которая нередко занимает продолжительное время.