Ресурсы: техническое описание TLS, LaTeX - в картинки (img), криптографическая библиотека Arduino, шифр "Кузнечик" на ассемблере AMD64/AVX и ARM64
Реплика: о пользе меток на результатах работы ИИ
Кстати, метки (“водяные знаки”), которые позволят определять тексты, сгенерированные системами ИИ (LLM), прежде всего полезны самим разработчикам этих систем: так они смогут избежать “обучения” новых “моделей из нейросетей” на текстах, сгенерированных другими системами ИИ (ну, или предыдущими итерациями одной и той же ветки). Подобное “обучение” второго и третьего порядка может привести к нежелательным результатам. Если всё направление раньше не развалится. Естественно, это относится не только к текстам, в традиционном понимании, но и к изображениям, звукам. Однако, с точки зрения такого подхода к обучению ИИ, всё – текст.
Адрес записки: https://dxdt.ru/2023/06/07/10268/
Похожие записки:
- Ключи X25519 для гибрида с Kyber в Firefox
- ИИ Google и олимпиадные задачи
- Галлюцинации ИИ в словах года
- Реплика: обучение и LLM-умножение
- Техническое: TLS-сообщение с постквантовой криптосистемой Kyber768
- Fewer, less и переключение фокуса интерпретации
- Реплика: переключение морфологических веток
- О квантовой криптографии на сайте IBM
- Реплика: число 15 и факторизация квантовым компьютером
- "Лазейки" вокруг неравенства Белла
- Машинный ИИ в книгах прошлого века
Кратко этот сайт характеризуется так: здесь можно узнать про технологический прогресс, Интернет, математику, криптографию, авиацию, компьютеры, авиационные компьютеры, вооружения, роботов, вооружение роботов, армии мира, астрономию, космические исследования. И иногда о чём-то ещё (
Комментарии читателей блога: 3
1 <t> // 7th June 2023, 22:25 // Читатель Nataraj написал:
Хотел поделиться вот какой своей заметкой, сделанной, простите, во вконтакте…
======
Главная опасность ИИ на мой взгляд в возможности формирования устойчивых петель обратной связи ИИ Общество.
Помните, если напротив колонки поставить микрофон и по нему стукнуть, но начинается дикий писк или рев. Вот тут так же.
Человек что-то спрашивает ИИ, и ИИ отвечает такое, что еще больше людей начинают ИИ спрашивать это же самое. И так по нарастающей.
Пока это невинный шум, или какой-нибудь маркетинг, еще ничего. А вот если оно случайно или намеренно попадет в общественно резонансную тему, и эту петлю обратной связи вовремя не отстрелят, мало не покажется никому.
======
https://m.vk.com/wall137211888_5321
А вот про устойчивую петлю обратной связи в смысле обучения на своем же выхлопе я не подумал… А надо было бы…
Но тут вероятный ущерб меньше… Оно просто уйдет в какие-то свои, только ему понятные, локальные экстремумы и будет счастливо вариться в них. А для человека они не будут иметь никакого смысла…
2 <t> // 7th June 2023, 22:47 // Александр Венедюхин:
> А для человека они не будут иметь никакого смысла
Это да. Тут главное, чтобы результаты работы такого ИИ не начали заполнять интернеты, где их будут выдавать за новый “интеллектуальный образец”.
3 <t> // 7th June 2023, 23:00 // Читатель Nataraj написал:
И внезапное продолжение.
Пишет Дима Скирюк (типа писатель. Бывший, если они вообще бывшими бывают)
=====
Моя дражайшая супруга сегодня тестировала ИИ и попросила его сочинить ирландский анекдот. Результат нас поразил. Во-первых, это и правда смешной анекдот с непредсказуемым финалом. Во-вторых, это анекдот с реальным ирландским колоритом, он вполне мог бы появиться естественным образом.
Ну и, собственно, сам анекдот:
– – –
“Как-то ирландец спросил у своего нового искусственного интеллекта: “А ты можешь пить пиво?” На что ИИ ответил: “Нет, я не могу пить . Я всего лишь компьютер”. Ирландец нахмурился и сказал: “Ну и что же ты тогда умеешь делать?” ИИ ответил: “Я могу решать сложные математические задачи, анализировать данные и помогать в управлении бизнесом”. Ирландец задумался и сказал: “Ну ладно, ты хотя бы не заберëшь МОË пиво”.
– – –
Скалли, они уже здесь…
=====
https://m.vk.com/wall405839224_7643?from=feed
Написать комментарий