Самоуправляемые автомобили: запланированные бэкдоры
Занятная статья Кори Доктороу о потенциальном “конфликте интересов”, связанном с тем, какие решения принимает автомобиль-робот в критических ситуациях – кого приносить в жертву. Речь о том, что владелец может вмешаться в логику распределения ущерба, “перепрошив” автомобиль. Интересное наблюдение: программно-аппаратная система должна бы включать защиту от перепрошивки базовых функций, но от этой защитной схемы, традиционно, могут потребовать наличия “официальных бэкдоров”, необходимых для специальных случаев: например, управление автомобилем перехватывает полицейский дрон. Бэкдоры, при этом, могут оказаться доступными для злоумышленников. Это означает, что о том, какие алгоритмы распределения ущерба будут в реальности применяться – останется только догадываться. И вряд ли стоит рассчитывать на победу наивной концепции, согласно которой достаточно “зашить” в управляющий компьютер строгое следование правилам дорожного движения, чтобы снять все этические и юридические проблемы, возникающие в момент, когда автомобиль будет делать выбор – наехать ли на группу пешеходов, перебегающих дорогу, или отвернуть, врезавшись в стену, пожертвовав, таким образом, своим пассажиром.
Адрес записки: https://dxdt.ru/2016/01/01/7791/
Похожие записки:
- Статья Cloudflare про ECH/ESNI
- Вычислимые опасности ИИ
- Постквантовые криптосистемы в Google Chrome (Kyber768)
- Мониторинг: фитнес-браслет и смартфон
- Техническое: связь SCT-меток с логами Certificate Transparency
- Превентивное удаление "цифровых следов" и художественное произведение
- TLS для DevOps
- Недокументированные возможности автомобильного ПО
- Обновление tls13.1d.pw (экспериментальный сервер TLS 1.3)
- Статистика ESNI в Рунете и статья о технологии
- Криптографическая библиотека для Arduino: дополнение для новых IDE