Слепой программист

Почему вообще у животных сформировался мозг? Ответ на этот вопрос заключается в ценности информации, для обработки которой он был предназначен[189].

Каждый раз, когда мы покупаем газету, мы платим за информацию. Теоретики экономики объяснили, почему нам приходится это делать: информация дает нам выгоду, которая стоит того, чтобы за нее заплатить. Жизнь – это выбор между рисками. Мы выбираем, повернуть нам налево или направо на развилке дороги, остаться с Риком или уйти от него к Виктору, зная, что ни один выбор не гарантирует богатства или счастья; лучшее, что можно сделать – это надеяться на судьбу. Каждое решение в жизни по своей сути представляет собой выбор того, какой купить лотерейный билет. Скажем, билет стоит 1 доллар и дает один шанс к четырем выиграть 10 долларов. В среднем выигрыш составляет полтора доллара на каждый билет. (10 долларов разделить на четыре равняется 2,5 доллара, минус один доллар за билет.) Другой билет стоит один доллар и дает один шанс к пяти выиграть 12 долларов. В среднем выигрыш составляет 1,4 доллара на один билет. Количество билетов того и другого вида одинаково, ни на одном из них нет пометок с информацией о вероятности выигрыша. Сколько вы заплатите человеку, который скажет вам, какой билет относится к какой категории? Вы должны заплатить не больше четырех центов. Без этой информации вы будете выбирать наугад, и ваш выигрыш в среднем составит 1,45 доллара (в половине случаев это будет 1,5 доллара, а еще в половине – 1,4 доллара). Если вы будете знать, у какого билета средняя окупаемость выше, вы заработаете в среднем 1,5 доллара на каждом билете, так что даже если вы заплатите четыре цента, с каждого билета у вас останется выгода в один цент.

Большинство организмов не покупают лотерейные билеты, но они делают выбор между «лотерейными билетами» всякий раз, когда их тело может сделать несколько разных движений. Они должны быть готовы «платить» за информацию – тканями, энергией и временем – если затраты ниже ожидаемой выгоды в виде еды, безопасности, возможности спаривания и других ресурсов, которые в конечном итоге оцениваются с точки зрения ожидаемой численности выжившего потомства. У многоклеточных животных за сбор информации, ее преобразование в выгодные решения отвечает нервная система.

Зачастую увеличение объема информации приводит к увеличению выгоды и компенсирует дополнительные издержки. Если вы знаете, что где-то рядом с вашим домом зарыт сундук с сокровищами, любая информация, которая укажет направление – на север или на юг, – будет полезна, поскольку она сократит время поисков вдвое. Второй элемент информации – о том, в каком квадранте нужно искать клад, – будет еще более полезным, и т. д. Чем больше цифр будет в координатах, тем меньше времени вы потратите, копая впустую, поэтому вы будете с готовностью платить за любую дополнительную информацию, вплоть до момента, когда вы будете так близко к кладу, что дальнейшее уточнение координат уже не будет стоить денег, которые вы заплатите. Аналогичным образом, если бы вы пытались взломать код от сейфа, каждая цифра, которую бы вы покупали, сокращала бы количество вариантов, и ваши расходы окупились бы сэкономленным временем. Итак, почти всегда больше информации означает лучше – вплоть до момента, когда доходность начинает убывать – и именно поэтому у многих линий животных в процессе эволюции появлялись более и более сложные нервные системы.

Естественный отбор не может непосредственно наделить организм информацией о его окружении или вычислительными сетями, демонами, модулями, способностями, репрезентациями или органами мышления, перерабатывающими информацию. Он может только выбирать из генов. Но гены строят мозг, и разные гены строят разные типы мозга, которые по-разному перерабатывают информацию. Эволюция переработки информации достигается на уровне мельчайших деталей, путем отбора генов, которые влияют на процесс сборки мозга.

Многие виды генов могут становиться объектом отбора в пользу более эффективной переработки информации. Изменения в генах могут приводить к образованию разного количества пролиферирующих клеток вдоль стенок желудочков (полостей в центре мозга), вырабатывающих кортикальные нейроны, из которых состоит серое вещество. Другие гены могут сделать так, чтобы пролиферирующие клетки делились в течение разного количества циклов, образуя разное количество кортикальных зон разных типов. Аксоны, соединяющие между собой нейроны, могут быть перенаправлены в результате изменения химических следов и молекулярных ориентиров, которые ведут аксон в том или ином направлении. Гены могут вносить изменения в молекулярные замки и ключи, которые отвечают за соединение нейронов друг с другом. Как и в старом анекдоте о том, как вырезать статую слона (отсечь все, что не похоже на слона), нервную цепь можно сформировать, запрограммировав определенные клетки и синапсы по команде «покончить с собой». Нейроны могут активизироваться на разных этапах эмбрионального развития, и паттерн их импульсов – будь то спонтанных или запрограммированных – может быть интерпретирован на выходе как информация о том, как нервные связи должны формироваться далее. Многие из этих процессов вступают в каскадное взаимодействие. Например, увеличение одной из зон позволяет ей более эффективно конкурировать за место на других уровнях. Естественному отбору совершенно все равно, насколько причудливым будет процесс сборки мозга или насколько уродливым получится в результате мозг. Модификации он оценивает исключительно исходя из того, насколько хорошо алгоритмы мозга справляются с задачей руководства восприятием, мышлением и действиями всего организма в целом. Руководствуясь этими процессами, естественный отбор может создавать все более и более эффективно функционирующий мозг[190].

Но возможно ли, чтобы отбор произвольных вариантов действительно улучшил конструкцию нервной системы? Или из-за прочих вариантов вся конструкция отказала бы, как компьютерная программа из-за испорченного байта, а отбор просто сохраняет системы, которые не отказывают? Исследования в новой области вычислительных систем, теории генетических алгоритмов, показывают, что с помощью дарвинистского естественного отбора можно создавать все более разумное программное обеспечение. Генетические алгоритмы – это программы, которые дублируются, образуя многочисленные копии, однако с произвольными мутациями, которые делают каждую копию на один крохотный байт отличной от всех остальных[191]. Каждая копия пытается решить определенную задачу, и тем, которые справляются лучше других, дается возможность размножаться, чтобы создать копии для следующего цикла. Предварительно элементы каждой программы опять произвольно мутируют, и программы «спариваются»: каждая делится на две части и пары программ обмениваются частями. После множества циклов вычисления, отбора, мутации и репродукции получившиеся в итоге программы зачастую оказываются лучше, чем любая программа, придуманная живым программистом.

Возвращаясь собственно к вопросу о том, как сформировалось мышление, ученые попробовали применить генетические алгоритмы к нейронным сетям. Нейронная сеть получает входные данные от смоделированных органов чувств, а выходные данные поступают на смоделированные ноги, при этом сеть помещается в виртуальную среду, где есть произвольно расположенная «пища» и другие сети, конкурирующие за нее. Те сети, которым удастся собрать больше всего пищи, оставляют больше всего копий; затем начинается следующий цикл мутации и отбора. Мутации представляют собой произвольные изменения в весах связей, иногда после них происходит половая рекомбинация сетей (они обмениваются некоторыми из своих весов связей). Во время первых повторов цикла «животные» (или, как их иногда называют, «аниматы») в произвольном порядке блуждают по территории, изредка случайно наталкиваясь на источники пищи. Однако по мере эволюции они начинают передвигаться напрямую от одного источника пищи к другому. Более того, популяция сетей, которой дана возможность формировать в процессе эволюции «врожденные» веса связей, часто справляется с задачей лучше, чем одиночная нейронная сеть, которой дана возможность обучиться им. Это особенно справедливо в отношении сетей с множественными скрытыми уровнями, которые, несомненно, есть у всех сложных животных, и в частности – у человека. Если сеть может только учиться, но не эволюционировать, обучающий сигнал, получаемый из внешней среды, ослабевает по мере передачи к скрытым уровням и может приводить к приращению или сокращению весов связей лишь в незначительной мере. С другой стороны, если популяция сетей способна эволюционировать – даже если она не способна обучаться, – мутации и рекомбинации могут напрямую перепрограммировать скрытые уровни и очень быстро превратить сеть в совокупность врожденных связей, которая оказывается гораздо более приближенной к оптимальной. Происходит естественный отбор в пользу врожденной структуры[192].

Эволюция и обучение могут иметь место и одновременно, когда врожденная структура развивается у животного, которое при этом обучается. Популяции нейронных сетей можно дать общий алгоритм обучения и возможность формировать врожденные элементы, до которых разработчик сетей так или иначе мог дойти – будь то в результате догадки, по традиции или методом проб и ошибок. Врожденные характеристики включают в себя количество узлов, тип связей между ними, исходные значения весов связей и то, каким образом они должны увеличиваться или уменьшаться после каждого эпизода обучения. Симуляция эволюции дает сетям значительное преимущество на старте их учебной деятельности.

Итак, эволюция может влиять на процесс обучения нейронных сетей. Удивительно, но и обучение может влиять на эволюцию. Вспомните рассуждения Дарвина о «начальных стадиях полезных особенностей строения» и дискуссию о том, что толку в половине глаза. Теоретики нейронных сетей Джеффри Хинтон и Стивен Наулан придумали циничный пример. Представьте животное, которым управляет нейронная сеть всего с двадцатью связями, и каждая из них либо возбуждающая (включена), либо нейтральная (выключена). Но эта сеть совершенно бесполезна, пока не заданы правильно значения всех двадцати связей. Ни для чего не пригодна будет не только половина сети, но даже 95 % сети. В популяции животных, у которых связи нейронов определяются самопроизвольными мутациями, более приспособленный мутант с правильно заданными связями будет появляться всего в одном случае на каждый миллион (2²⁰) генетически отдельных друг от друга организмов. Что еще хуже, выгода сразу же оказывается утрачена, если животное начинает размножаться половым путем, потому что в этом случае, едва сумев найти волшебную комбинацию нужных весов связей, оно половину из них теряет. В ходе симуляций по такому сценарию не смогла эволюционировать ни одна сеть.

Теперь рассмотрим популяцию животных, у которых нейронные связи могут быть трех типов: врожденные возбуждающие, врожденные тормозящие или задаваемые как возбуждающие или тормозящие в ходе обучения. Мутации определяют, какой из этих трех вариантов (возбуждающая, тормозящая, формируемая в процессе обучения) будет та или иная связь при рождении животного. У среднего животного в таких симуляциях около половины связей являются формируемыми в процессе обучения, остальные связи – либо возбуждающие, либо тормозящие. Обучение работает следующим образом. Каждое животное в начале жизни пытается задавать значения формируемых в процессе обучения связей наугад, пока не найдет волшебную комбинацию. В реальной жизни это может быть определение того, как поймать добычу или расколоть орех; что бы это ни было, животное чувствует, что на этот раз ему повезло, и сохраняет данные настройки, больше не прибегая к методу проб и ошибок. С этих пор у него будет более высокий коэффициент воспроизводства. И чем раньше животное приобретет нужные настройки, тем дольше оно будет иметь этот более высокий коэффициент размножения.

Так вот, эти эволюционирующие и обучающиеся животные получают выгоду от того, что у них в сети меньше ста процентов правильных связей. Возьмем всех животных с десятью врожденными связями. Лишь у одного из тысячи (2¹⁰) все десять связей будут заданы правильно. (Вспомните, что только у одного из миллиона не-обучающихся животных все двадцать врожденных связей были заданы правильно.) Это животное, изначально обладающее хорошими данными, будет иметь возможность сформировать абсолютно правильную сеть, получив остальные десять связей в процессе обучения; если у него будет тысяча эпизодов для обучения, успех будет весьма вероятным. Животное, достигшее успеха, раньше начнет производить потомство, следовательно, сделает это больше раз. У его потомков будут благоприятные условия для мутаций, в результате которых все больше и больше связей будут становиться изначально правильными, поскольку при наличии большего количества правильно заданных связей им потребуется меньше времени на то, чтобы приобрести остальные в процессе обучения, а доля вероятности того, что они за всю жизнь так и не смогут их приобрести, будут меньше. В симуляциях Хинтона и Наулана сети таким образом формировали все больше и больше врожденных связей, однако эти связи так и не становились полностью врожденными. По мере увеличения количества связей, заданных изначально, давление отбора в сторону установления типа остальных связей начинало ослабевать, потому что при наличии лишь небольшого количества связей, которые предстоит выучить, любой организм может быстро справиться с задачей. Обучение приводит к эволюции врожденности, но не к абсолютной врожденности[193].

Хинтон и Наулан представили результаты своих компьютерных симуляций для публикации в одном научном журнале и получили ответ, что их уже опередили на сотню лет. Психолог Джеймс Марк Болдуин высказал предположение, что обучение может направлять эволюцию именно таким образом, создавая иллюзию ламаркианской эволюции там, где на самом деле никакой ламаркианской эволюции нет. Тем не менее никому до сих пор не удавалось доказать, что эта гипотеза, известная как эффект Болдуина, действительно работает[194]. Хинтон и Наулан показали, как это возможно. Способность к обучению меняет подход к проблеме эволюции: из поиска иголки в стоге сена она превращается в поиск иголки с помощью человека, который будет говорить вам, когда вы приближаетесь к цели.

Эффект Болдуина, очевидно, сыграл большую роль в эволюции мозга. Вопреки положениям стандартной социологической модели, обучение – не какая-нибудь вершина эволюции, лишь не так давно достигнутая людьми. Обучаемы все, кроме простейших животных. Именно поэтому несложные в умственном отношении создания вроде фруктовых мух и морских огурцов всегда были удобными объектами исследования для нейробиологов, пытающихся найти нейронное воплощение обучения. Если способность обучаться имелась уже у какого-нибудь из ранних предков многоклеточных животных, она бы направила эволюцию нервной системы в сторону специализированных схем, даже если бы эти схемы были столь сложными, что естественный отбор не смог бы их обнаружить самостоятельно.