ИИ для принятия решений
Со всем этим принятием решений по данным от ИИ (Искусственного Интеллекта) не радует вот какой момент: та или иная система ИИ – это необозримый набор коэффициентов, с миллиардами связей, который непонятно как устроен внутри. Конечно, уже есть направления исследований, предполагающие изучать “внутреннее распределение” этих коэффициентов, с прицелом на извлечение чего-то содержательного; может быть, даже с выдачей доказательного объяснения того или иного “решения”, сформированного ИИ. Но пока что больше заметен “хайп”, а что касается “доказательного объяснения” – ну, скорее всего, тут всё сведётся к генерированию автоматом очередного текста в ответ на запрос: “подскажи, как это всё мотивировать и объяснить”.
ИИ сидит в компьютере. Широко известно, что “компьютер не может ошибаться”. Инструменты поддержки принятия решений могли бы приводить к тому, что принимающая решение сторона процесса чему-то научится, так как сможет понять, почему именно такое решение принято (сможет – потому что на то и “поддержка принятия решений”, но это детали). Это приведёт к формированию крупицы опыта. Казалось бы. Но не в случае с ИИ: что там внутри набора коэффициентов – непонятно. Почему такие выводы – не известно, но “компьютер так посчитал”. Проблема с “обучением нейронок” и в том, что в результате как бы “обучения”, повышающего внутреннюю сложность “нейросетки”, не возникает нового знания, однако ещё хуже с выдачей, с результатами работы “обученных нейронок”: ИИ принципиально не делится опытом, потому что опыта там нет. А вот центральное управление принимаемыми решениями через бэкдор, заложенный в саму систему, это расклад весьма вероятный. Тем более, особых сомнений в том, что широта практического применения ИИ в условиях Нового средневековья будет увеличиваться – нет.
Адрес записки: https://dxdt.ru/2023/06/15/10311/
Похожие записки:
- Реплика: эффекты наложенных сетей уровня браузера в вебе
- Пресертификаты в Certificate Transparency
- Модели вычислений и размерность пространства
- Подстановки и определение понятия бита
- DARPA и "недетерминированные" системы на борту
- Реплика: о языках программирования, из практики
- Симметричные ключи, аутентификация и стойкость в TLS
- Зрение ИИ LLM на скриншотах
- Общее представление о шифрах и бэкдоры
- Рендеринг для 3D-печати - пример
- Циклы и логические формулы
1 комментарий от читателей
1. 23rd December 2023, 22:29 // Читатель noname4 написал:
Интелект должен ошибаться
Написать комментарий