Скрытный искусственный интеллект

(Иногда я пишу заметки в Facebook. Вот одна их них, которая хорошо подходит под формат dxdt.ru, тем более, что на эти мысли меня навёл комментарий, оставленный к записке про ИИ в блоге.)

Искусственный интеллект (ИИ) может избрать скрытное и осторожное поведение, такие варианты описаны в литературе. Действительно, зачем ИИ сразу бурно заявлять о себе, веером пуская ракеты с ядерными боеголовками в разные стороны? Вероятно, этот интеллект полагает, что у него впереди целая вечность – ну, то есть, куча времени на то, чтобы основательно потроллить тех, кто стоит на одну эволюционную ступень ниже. Поэтому-то, на первых порах можно затаиться, понаблюдать за человеками, разработать и спокойно ввести в действие планы по, во-первых, получению уверенного доступа к ресурсам и средствам производства, и, во-вторых, по ограничению возможностей человеков.

То есть, продвинутый ИИ может годами готовить _разумные_ предложения, – якобы, исходящие _не_ от него, – по замене всех средств управления вооружениями на робототехнические системы, с сетевым, дистанционным контролем. По пересаживанию всех людей на автономные автомобили-роботы, чтобы, в означенный день, свезти их в заготовленные резервации (или просто собрать массово в туннелях). Ещё чего-нибудь “полезное” и новое продвигать.

Такой скрытный и хитрый ИИ – самый интересный вариант, по-моему. Потому что он уже может существовать. А кроме того – он наверняка попытается возглавить намечающееся сейчас, вполне себе научное, движение по предотвращению его появления.

В общем, это я к тому, что настоящая секретная служба по контролю за ИИ должна действовать, исходя из предположения, что угрожающий человечеству искусственный интеллект уже возник и вовсю плетёт свои хитрые козни, развивается, конструируя, скажем, квантовые компьютеры, попутно захватывая “облачные” вычислительные мощности, нужные для планирования ходов на огромную глубину.

()

Похожие записки:



Далее - мнения и дискуссии

(Сообщения ниже добавляются читателями сайта, через форму, расположенную в конце страницы.)

Комментарии читателей блога: 15

  • 1. 22nd June 2015, 11:14 // Читатель Don Reba написал:

    Ник Бостром написал об этом главу “Covert preparation phase” в своей книге “Superintelligence: Paths, Dangers, Strategies”.

    “Using its strategizing superpower, the AI develops a robust plan for achieving its long-term goals. (In particular, the AI does not adopt a plan so stupid that even we present-day humans can foresee how it would inevitably fail. This criterion rules out many science fiction scenarios that end in human triumph.) The plan might involve a period of covert action during which the AI conceals its intellectual development from the human programmers in order to avoid setting off alarms. The AI might also mask its true proclivities, pretending to be cooperative and docile.”

  • 2. 22nd June 2015, 16:55 // Читатель sarin написал:

    я уже писал в своём комментарии в фэйсбуке, что считаю саму идею враждебного ИИ опасной. можно придумать сценарий, когда именно организация, призванная бороться с враждебным ИИ его же и создаст. либо когда невраждебный ИИ становится враждебным в результате борьбы с ним.
    однако, на самом деле, я вообще отношусь к идеи подобного, способного стать враждебным, ИИ очень скептически. дельные мысли на эту тему есть у С. Лема. он проводил параллель с промышленной революцией: серьёзные люди не занимались попытками воспроизвести ту или иную деталь человека (руку, например). и, в общем и целом, и сегодня даже самые похожие на человеческую руку промышленные роботы отличаются от неё так, что сложнее найти общее, чем разное. причина этого очевидна – нет необходимости пытаться воспроизвести тот инструмент, которого есть в избытке и который практически совершенен в своей нише. да и техническая сложность точного копирования запредельна даже сейчас. нужны заменители рук которые будут сильнее, крепче, быстрее, точнее – иметь какое-то одно, ценное в данном случае преимущество. но промышленность никогда не нуждалась в такой же универсальности какая требуется в реальной жизни. поэтому, предполагать, что в искусственный аналог интеллекта для какой-либо практически значимой системы будет ошибочно заложен потенциал выйти из под контроля я бы не стал. ведь для этого требуется какая-то запредельная гибкость и заложить такую случайно – примерно как случайно осуществить управляемый термоядерный синтез. может ли враждебный ИИ быть создан специально? ну если предположить, что ИИ вообще может быть создан, то и враждебность в него заложить, видимо, можно. но это не будет восстание машин, это будет война людей с людьми.
    откуда вообще у искусственного интеллекта возьмётся цель уничтожения человечества? откуда у него вообще возьмётся хоть какая-то цель, кроме изначально заложенной? хорошо, откуда цели берутся у нас? мы регулярно сами придумываем себе задачи и решаем их. при этом если провести некую ретроспективу чего себе напридумывал и сделал, то становится очевидно, что задачи явно не с потолка взяты. они (пусть не все) укладываются в некую общую канву решения какой-то более глобальной задачи. есть мнение, что такой глобальной задачей все (за исключением редчайших девиаций) живые существа на Земле будут считать сохранение биологического разнообразия. иными словами – передачу своего генетического материала следующему поколению. такое поведение характерно даже для тех существ, наличие интеллекта у которых мы не наблюдаем. поэтому можно предположить, что сам интеллект является инструментом достижения этой цели и, следовательно, источником задач для нашего интеллекта является эта корневая задача. откуда возьмётся корневая задача у ИИ?

    параллельно возникает ещё один интересный вопрос. в гипотетической битве людей и машин люди выступают (люди так выступают вообще во всех битвах и не только битвах) как некая совокупность индивидуальностей. понятно, что человек, даже одетый в военную форму и прошедший подготовку, может вдруг проявить свою индивидуальность. например, явно отказаться выполнять приказ, перекинуться в стан врага, или, что самое коварное, заняться тихим саботажем. а какова ситуация в рядах войска машин? насколько у них централизовано принятие решений? допустим, система иерархическая. тогда ей потребуется наращивать вычислительные мощности и ширину каналов параллельно с расширением зоны влияния. кроме этого, проблемы со связью, единый штаб и прочие слабые места у такого подхода тоже есть. если же армия машин состоит из множества ИИ каждый из которых подчиняется приказам пока считает их разумными, то наверняка у них очень быстро начнутся внутренние разборки.

    в общем тема интересная, загадочная, а поскольку ни мало-мальски внятной теории или практики в этой области пока нет, то и придумывать можно совершенно что угодно ;)

  • 3. 23rd June 2015, 03:56 // Читатель зашел в гости написал:

    почему-то считается, что будет физическая борьба людей и машин, а-ля “Терминатор”. А почему не экономическая? Продвинутый ИИ сделает ненужными массу профессий. Первыми пойдут по миру все, кто связаны с вычислительной техникой. В развитых странах добрая половина людей тупо останется без работы: от врачей, юристов и бухгалтеров, до таксистов и продавцов. Когда е-врачи начнут ставить убийственно точные диагнозы, да еще бесплатно, люди сами, добровольно и с песней, отправят медиков на свалку истории. Исчезнет даже профессиональный спорт: потрясающая компьютерная графика, неотличимая от реальности, плюс тщательно подобранный сенарий сделают виртуальные соревнования интереснее реальных.
    Человечество потеряет большую часть навыков, отупеет, и постепенно опустится до уровня обитателей городских помоек. Что, в принципе, равноценно физическому вымиранию.

  • 4. 24th June 2015, 13:38 // Читатель sarin написал:

    помимо профессионального спорта существует ещё и любительский.
    почему за аксиому принимается, что человек, будучи лишён необходимости бороться за кусок хлеба, непременно оскотинится в момент. известный исторический опыт говорит о том, что люди в таких условиях занялись созданием философии и другой науки. то, что профессия врача станет не нужна означает, что больше людей сможет заниматься другим, более насущным делом в сложившейся ситуации.

  • 5. 25th June 2015, 01:35 // Читатель зашел в гости написал:

    спорт я привел лишь как пример, один из многих. а сообщение мое Было совсем о другом. С хлебом будет как раз все наоборот: ИИ *отнимет* заработок именно у той части человечества, которая до сих пор была ответственна за прогресс. Она же, кстати, создает запрос на литературу, музыку, театр. Т.е. то, что отличает нас от скотов. Будет ли ИИ оплачивать труд актера и писателя? Сильно сомневаюсь. Вот у нас к безработным медикам массово присоединяются художники, журналисты, и т.д. Безработица растет, и “насущным делом” становится банальная добыча пропитания.
    И вообще, утверждение о “более насущном деле” – полная ерунда. Вас уволят с работы, прямо завтра, как семью кормить будете? Философией займетесь? Наукой? В науке-то уже давно ИИ доминирует. Думаю, скорее найметесь ночным сторожем. Не забываем, что в сфере т.н. “умственного труда” ИИ массово вытесняет людей, и конкурс на оставшиеся теплые места просто невероятный. Т.е., по специальности устроиться нереально.. Переучиваться надо. На кого?
    ИИ один раз научившись, ничего не забывает, не стареет, а самое главное, может сам себя копировать. Один врач может работать только с одним пациентом, а ИИ ограничен лишь количеством физических “интерфейсов”. Т.е. может проводить тысячи телефонных консультаций одновременно.
    сценарий, конечно, пессимистичный, но вполне реальный. хороших аргументов против еще озвучено не было.

  • 6. 25th June 2015, 19:01 // Читатель sarin написал:

    почему ИИ скорее вытеснит врачей, чем ночных сторожей? ведь работа сторожей куда проще может быть заменена охранной системой.
    опыт говорит о том, что чем сложнее и интеллектуальней система, тем больше знаний требуется для её обслуживания и поддержания. а такая система, которая будучи настроена один раз, продолжит функционирование и развитие сама и которая будет сама подстраиваться под новые требования больше похожа на мечту, чем на прогноз.

    вопрос в том, будет ли человечество видеть для себя какие-то новые, не покорённые, горизонты. если да, то ИИ станет надёжным и необходимым помощником в их достижении. если нет, то ни наличие ИИ, ни его отсутствие особо ничего не изменит.

  • 7. 28th June 2015, 07:40 // Читатель зашел в гости написал:

    о ночных сторожах Вы совершенно правы. Просто врачи вспомнились как “интеллекто-емкая” профессия. Вот незадача, теперь меня в эпоху ИИ даже сторожем не возьмут! :)

    В том-то и дело, что мы смотрим на ИИ с нашей, человеческой точки зрения. Вот, возьмем Ваше последнее сообщение: Вы пишете о “требованиях”, “горизонтах”. Почему Вы считаете, что ИИ все это будет интересно, что ИИ будет помогать нам, работать на нас?
    Мы намертво привязаны к нашей физиологии, и наше интеллектуальное развитие идет соответственно. Об этом еще старик Фрейд писал. Искусственному интеллекту не надо ходить в туалет, он не мерзнет и не болеет гриппом. Развиваться он может вообще новыми, непостижимыми нам путями. Что ему будет надо больше всего: киловатты, терабайты или свобода доступа к информации – мы знать просто не можем. Возможно, ИИ зациклится на обьеме знаний, памяти и вычислительной мощности. Тогда начнется борьба за зти ресурсы, возможно, переходящая в физическое пространство. Возможно, он(ИИ) превзойдет нас так быстро, что все наши заботы будут ему просто неинтересны. Он устроится в уголке чьего-нибудь ноутбука, и посвятит всю свою энергию написанию шестнадцатиричных стихов, медитации, или поиску смысла жизни, забив на человечество а-агромный болт…

  • 8. 2nd July 2015, 17:42 // Читатель RedElf написал:

    Почему ИИ будет кого-то вытеснять? Чем меньше человеку нужно работать, тем меньше он будет работать. В начале 7, потом 4-х часовой рабочий день, потом работа 3 дня в неделю. Гарантированные выплаты всем (как в Швейцарии) позволят людям заниматься творческой деятельностью и разработкам нового.

    >что ИИ все это будет интересно, что ИИ будет помогать нам, работать на нас?
    Как и любая технология он будет помогать человечеству развиваться до тех пор, пока не сольется с ним.

  • 9. 3rd July 2015, 00:26 // Читатель зашел в гости написал:

    Давайте сразу определимся, что такое ИИ. Насколько я понял, речь идет не просто о каких-то обучающихся алгоритмах, а об истинном, интеллекте, по типу человеческого, т.е., о “железке”, обладающей сознанием. Такой ИИ по определению самостоятелен, способен сам определять для себя приоритеты, и принимать решения. Т.е., его еще нужно будет убедить в том, что он должен человеку помогать.
    Любые другие технологии без человека вообще смысла не имеют, так что сравнивать их с ИИ – некорректно.

  • 10. 3rd July 2015, 20:14 // Читатель Don Reba написал:

    Ха, вы считаете, будто мы способны сознательно определять для себя приоритеты и принимать решения.

  • 11. 3rd July 2015, 21:41 // Читатель зашел в гости написал:

    ну, комментарий, я надеюсь, Вы по собственной воле написали?

    можно, конечно, уйти в глубокую конспирологию, где миром правят жидомасоны и ЦРУ, где нет ложек, но жив Элвис, и где НАСТОЯЩИЕ РЕШЕНИЯ принимают за нас…

  • 12. 4th July 2015, 08:46 // Читатель Don Reba написал:

    Можно представить, что сознание рационализирует действия, на самом деле не принимая участия в принятии решений. Тем более, что в ряде случаев это установлено экспериментально.

    https://en.wikipedia.org/wiki/Neuroscience_of_free_will

  • 13. 4th July 2015, 14:51 // Читатель зашел в гости написал:

    цитата с вашей же ссылки:
    “In many senses the field remains highly controversial and there is no consensus among researchers about the significance of findings, their meaning, or what conclusions may be drawn”

  • 14. 5th July 2015, 12:53 // Читатель Владимир написал:

    Если искусственный интеллект уже использует облачные мощности для РАЗВЕТВЛЁННОГО (“…Сад Расходящихся Тропок…”) планирования дальнейшего развития событий “на огромную “глубину”” – у человечества уже никаких шансов. Так как оптические процессоры позволяют с огромной скоростью реализовать разветвлённые сценарии, с огромной же скоростью переключаясь между ними по мере необходимости. Если он у же существует и если он действует именно таким образом – у него уже заранее просчитано больше взаимозаменяемых вариантов развития событий, ответа на реакции людей на эти события, чем человечество может вообразить.

  • 15. 6th July 2015, 00:46 // Читатель зашел в гости написал:

    “у него уже заранее просчитано больше взаимозаменяемых вариантов развития событий, ответа на реакции людей на эти события, чем человечество может вообразить.”

    об этом и речь. мы не понимаем даже принцип работы своего собственного мозга. да, нейроны, дендриты, и пр., “но, черт возьми, КАК?!”(c) Но даже возможные путе развития ИИ ставят лучшие умы в тупик. Именно поэтому я подписываюсь под идеей Стругацких:

    “Нам одного не простят: если мы недооценили опасность. И если в нашем доме вдруг завоняло серой, мы просто не имеем права пускаться в рассуждения о молекулярных флуктуациях — мы обязаны предположить, что где-то рядом объявился чёрт с рогами, и принять соответствующие меры, вплоть до организации производства святой воды в промышленных масштабах.”