Где C-3PO?

[244]

Когда я был ребенком, то считал, что, когда я вырасту, меня будут окружать роботы: приносить еду, стирать одежду и разговаривать со мной. Однако что-то в сфере искусственного интеллекта пошло не так, и в результате единственный робот в моем доме — это умеренно туповатый самоуправляемый пылесос.

Почему развитие искусственного интеллекта затормозилось? Ответ очевиден: оказалось, что сам интеллект — крайне сложная проблема. У природы была возможность провести триллионы экспериментов за миллиарды лет. Люди копаются в этой задаче всего лишь несколько десятилетий. Большую часть этого времени мы пытались создать интеллект с нуля. Но недавно в этой области произошел прорыв. Стало ясно: чтобы добиться значимого прогресса в конструировании мыслящих роботов, нужно расшифровать трюки, до которых додумалась природа.

Я предполагаю, что схема «команда соперников» способна подтолкнуть застрявшую работу в области искусственного интеллекта. Предыдущие подходы включали стадию разделения труда; однако появляющиеся программы бессильны без различающихся мнений. Если мы надеемся изобрести роботов, которые думают, наша задача — не просто придумать субагента для умного решения произвольной проблемы, а беспрестанно изобретать субагентов с перекрывающимися решениями и стравливать их друг с другом. Перекрывающиеся группировки обеспечивают защиту от деградации (вспомните когнитивный резерв), а также умное решение проблемы с помощью неожиданных методов.

Люди-программисты подходят к проблеме, предполагая, что существует лучший путь для ее решения, или способ, с помощью которого робот должен ее решать. Однако главный урок эволюции гласит: лучше культивировать команду популяций нейронов, которые атакуют проблему различными способами. Схема «команда соперников» предполагает отказ от вопроса «Какой из способов решения этой проблемы самый лучший?» в пользу вопроса «Существуют ли способы решения этой проблемы, перекрывающие друг друга?».

Вероятно, самым лучшим способом создания команды является эволюционный подход, случайно генерирующий небольшие программы и позволяющий им воспроизводиться с незначительными мутациями. Подобная стратегия дает возможность находить новые решения, а не выдумывать одно идеальное на пустом месте. Второй закон биолога Лесли Орджела гласит: «Эволюция умнее, чем ты». Если бы у меня был закон, он гласил бы: «Ищите решения; когда найдете хорошее, не останавливайтесь».

Технология до сих пор не воспользовалась преимуществами идеи демократической архитектуры. Так, компьютер состоит из нескольких тысяч специализированных частей, но они никогда не сотрудничают и не спорят. Я полагаю, что демократическая организация, сведенная в архитектуру команды соперников, возвещает начало нового плодотворного века техники, вдохновленного эволюцией[245].

* * *

Основной урок этой главы: вы — это целый парламент деталей, частей и подсистем. Кроме набора локальных экспертных систем, это еще и совокупность перекрывающих друг друга и беспрестанно изобретаемых механизмов, своего рода группа конкурирующих фракций. Осознанный разум сочиняет истории, чтобы объяснить иногда необъяснимую динамику подсистем внутри мозга. В значительной мере всеми нашими действиями руководят прошитые системы, делающие то, что у них получается лучше всего, в то время как мы придумываем истории, что этот выбор — наш.

Обратите внимание, что население этого ментального сообщества не всегда голосует одинаково. Этот факт часто ускользает из дискуссий о сознании, где, как правило, предполагается, что быть собой — это одно и то же изо дня в день, каждую минуту. Но вы иногда способны хорошо читать, иногда — нет. Иногда вы можете найти правильные слова, а иногда ваш язык заплетается. В один день вы тяжелы на подъем, в другой нет. Так какое же из ваших «я» настоящее? Французский эссеист Мишель Монтень заметил: «В разные моменты мы не меньше отличаемся от себя самих, чем от других»[246].

Возвращаясь к Мелу Гибсону и его пьяной тираде, можно задаться вопросом, а существует ли такая вещь, как «истинное лицо». Мы видели, что поведение — это результат поединка между внутренними системами. Хочу пояснить, что я не оправдываю отвратительное поведение Гибсона, но говорю, что мозг с командой соперников вполне естественно дает приют и расистским, и нерасистским настроениям. Алкоголь — это не сыворотка правды. Алкоголь способен обеспечить преимущество в этом сражении краткосрочной бездумной фракции, но она может претендовать на «истинность» не более, чем любая другая. Сейчас нас волнует бездумная фракция в человеке, поскольку она определяет степень, в которой тот склонен к антисоциальному или опасному поведению. Целесообразно беспокоиться об этом аспекте личности, и имеет смысл говорить: «Гибсон способен на антисемитизм». Мы имеем возможность разумно рассуждать о чьих-то «наиболее опасных качествах», но «истинное лицо» может оказаться неверным и в чем-то опасным термином.

Учитывая вышесказанное, давайте вернемся к случайному недосмотру в извинении Гибсона: «Не может быть оправданий и не может быть терпимости ко всем, кто думает как антисемит или делает любого рода антисемитские заявления». Вы видите здесь ошибку? «Ко всем, кто так думает»? Я был бы рад, если бы больше никому не приходили в голову антисемитские мысли, однако — плохо ли это, хорошо ли — у нас маловато надежд на управление патологией ксенофобии, которая иногда заражает чужие системы. Большая часть того, что мы определяем словом «думать», лежит значительно ниже уровня когнитивного контроля. Этот анализ не означает оправдания мерзкого поведения Мела Гибсона, но он свидетельствует о выделении вопроса, к которому подводит все, что мы узнали к этому моменту: если сознающее «я» на самом деле обладает меньшим контролем над психическим аппаратом, чем нам интуитивно казалось раньше, то как это отражается на ответственности? И это тот вопрос, к которому мы сейчас перейдем.