ИИ для принятия решений
Со всем этим принятием решений по данным от ИИ (Искусственного Интеллекта) не радует вот какой момент: та или иная система ИИ – это необозримый набор коэффициентов, с миллиардами связей, который непонятно как устроен внутри. Конечно, уже есть направления исследований, предполагающие изучать “внутреннее распределение” этих коэффициентов, с прицелом на извлечение чего-то содержательного; может быть, даже с выдачей доказательного объяснения того или иного “решения”, сформированного ИИ. Но пока что больше заметен “хайп”, а что касается “доказательного объяснения” – ну, скорее всего, тут всё сведётся к генерированию автоматом очередного текста в ответ на запрос: “подскажи, как это всё мотивировать и объяснить”.
ИИ сидит в компьютере. Широко известно, что “компьютер не может ошибаться”. Инструменты поддержки принятия решений могли бы приводить к тому, что принимающая решение сторона процесса чему-то научится, так как сможет понять, почему именно такое решение принято (сможет – потому что на то и “поддержка принятия решений”, но это детали). Это приведёт к формированию крупицы опыта. Казалось бы. Но не в случае с ИИ: что там внутри набора коэффициентов – непонятно. Почему такие выводы – не известно, но “компьютер так посчитал”. Проблема с “обучением нейронок” и в том, что в результате как бы “обучения”, повышающего внутреннюю сложность “нейросетки”, не возникает нового знания, однако ещё хуже с выдачей, с результатами работы “обученных нейронок”: ИИ принципиально не делится опытом, потому что опыта там нет. А вот центральное управление принимаемыми решениями через бэкдор, заложенный в саму систему, это расклад весьма вероятный. Тем более, особых сомнений в том, что широта практического применения ИИ в условиях Нового средневековья будет увеличиваться – нет.
Адрес записки: https://dxdt.ru/2023/06/15/10311/
Похожие записки:
- Реплика: GPS и "только приёмник"
- Построение CVE-2025-0282 в Ivanti Connect Secure
- Квантовая криптография и металлический контейнер
- Сорок лет Интернету
- Геоаналитика через "Яндекс"
- Секретные ключи в трафике и симметричные шифры
- Вычисления на различной аппаратуре
- Взлом Twitter и влияние на офлайн
- Про цепочки, RSA и ECDSA
- Пример про запутывание контекста в LLM (GigaChat)
- Техническое: обновления на тестовом сервере TLS 1.3
1 комментарий от читателей
1 <t> // 23rd December 2023, 22:29 // Читатель noname4 написал:
Интелект должен ошибаться
Написать комментарий