B. Машина не обладает семантическими свойствами
Далеко не очевидно, что машины могут иметь убеждения. Для многих даже очевидно обратное. По крайней мере, машины, как они описаны в мысленном эксперименте Деннета, точно не представляются мыслящими существами. Поэтому эти машины вряд ли могут считать что-то истинным или ложным. Но высказывание может быть истинным или ложным для самих программистов. Тогда правильней всего свойством верхнего уровня считать только свойство «быть истинным или ложным для Эла и Бо». Иначе говоря, в аппарате Деннета нельзя найти высокоуровневых интенциональных свойств, для их наличия нужны программисты. Таким образом, мысленный эксперимент возвращает нас к исходным пунктам, к необъяснимой и противоречивой ментальной каузальности.
Так допустимо возражать, если предполагать возможность каузальной связи между событиями, отстоящими во времени и пространстве. Ментальные состояния агентов, безусловно, имели отношение к работе этого аппарата тогда, когда программировалась база знаний. Но в момент нажатия кнопок они уже не имеют значения. Для верности можно представить, что два ящика были раскопаны следующими поколениями на месте, где раньше находился Лос-Анджелес, например в 3105 году. К тому времени программисты давно уже умерли. Вряд ли уместно говорить, что каузальным действием обладают ментальные состояния уже несуществующих людей.
На это можно ответить: пусть между ментальными состояниями программистов и состоянием компьютеров в момент исследования нет контакта, но генеалогическая связь прослеживается. Ментальные состояния программистов повлияли на исходные состояния компьютеров, а эти исходные состояния каузально связаны с каждым последующим их состоянием, и так – до самого последнего, до момента, когда ученые начали исследовать ящики А и Б в лаборатории. Помогает ли такое рассуждение преодолеть временной зазор? Допустим, но тогда можно дальше усовершенствовать мысленный эксперимент. Например, можно представить, что массив истинных данных был получен путем сбора информации о внешнем мире непосредственно машинами-роботами. Тогда ментальные состояния не будут иметь прямого отношения к последовательностям битов. Впрочем, скептик и здесь, наверное, не будет удовлетворен. Он может спросить: а реализуем ли такой сценарий? Возможно ли создать самообучающуюся энциклопедию? И даже если возможно, что будет обозначать информация, собранная машиной? Разве машина вообще может быть чувствительна к семантическим содержаниям? Она способна распознавать и совершать операции только с формами, содержание которых может быть интерпретировано сознательными мыслящими агентами. Но сама машина не способна интерпретировать эти сигналы. Только для мыслящих существ последовательность битов обозначает истинное высказывание или что-то еще. Только мыслящие существа наделяют материальные объекты смыслом. Машина – только инструмент, а никак не мыслящий агент.
Это возражение достаточно популярно. Одним из самых влиятельных сторонников такой позиции является уже известный нам и Деннету Джон Сёрл. Поэтому неудивительно, что в текстах Деннета можно найти развернутый подходящий ответ. Это – еще одна вымышленная история, или помпа для интуиции. Новая история Деннета должна подорвать уверенность в том, что только сознательные разумные существа наделяют знаки значением.
«Итак, предположим, вы решили по каким-либо причинам продлить свою жизнь и узнать, что произойдет в двадцать пятом веке» [Dennett 1996, 295], – начинает свою историю автор. Чтобы дождаться этого момента, придется длительное время провести в состоянии глубокого сна, комы. Когда вы проснетесь, ваших детей и внуков уже не будет. Так что нужно заранее позаботиться о сохранности тела, например создав специальную защитную капсулу. Создание такой капсулы для хранения – не единственная забота. Нужно обеспечить ее снабжение и безопасность. Выбирать придется между двумя вариантами. Первый – сразу найти идеальное место, куда будут подведены источники питания и энергии. Этот вариант плох тем, что обстоятельства могут измениться и идеальное место может перестать быть таковым. Второй вариант – создать движущуюся конструкцию, гигантского робота, и установить капсулу в него. Вторая, более сложная идея, требует, чтобы робот был способен «выбирать» то или иное действие исходя из ваших интересов. У него должны быть органы восприятия, способность управлять движением, даже планировать. В конечном итоге сложно предсказать, какие неприятности могут произойти в следующие столетия. К тому же нельзя исключать возможности создания других таких же роботов, которые будут бороться за ограниченные ресурсы, продолжает Д. Деннет. Вполне возможно, роботу придется состязаться или сотрудничать с ними. В таком случае его нужно запрограммировать так, чтобы, обладая основной целью (обеспечить ваше выживание), он мог выстраивать и свои, промежуточные. Вполне возможно, эти цели даже в какой-то момент станут преобладать, даже вступят в противоречие с основной целью. Его может толкнуть на самоубийство другой робот, стремящийся подчинить все окружающее своей миссии. Или заставить помогать и защищать другой организм. В соответствии с описанием Деннета, очевидно, что программа и поведение такого робота должны быть очень сложными. Такой робот даже, наверное, прошел бы тест Тьюринга: по поведению его сложно будет отличить от обычного человека. Ему можно будет приписать подлинные интенциональные состояния. Он будет вести себя так, будто мыслит, имеет убеждения и желания… хотя все это будет запрограммировано вами заранее. Разве он не будет мыслящей машиной?
Если все это не убедило вас, значит, вне зависимости от деталей, вы не способны допустить интенциональность у любых механических объектов. Но если это так, вы… не способны допустить существование интенциональности даже у людей. История в руках Деннета вдруг обретает неожиданный оборот. До этого момента она могла показаться несуразной и уж слишком надуманной фантастикой. Но Деннет объявляет, что она – всего лишь немного замаскированная история эволюции человека, вариация на тему, представленную в знаменитой книге этолога и эволюционного биолога Ричарда Докинза «Эгоистичный ген» [Dennett 1996, 298].
Две стратегии выживания в биологической истории обозначают стратегии выживания двух царств: растений и животных. А сам робот – это мы. Как ни парадоксально, люди – это машины для выживания генов, продукт их творчества. Это их эгоистичные планы мы выполняем, их цели, а не наши собственные, являются нашим raison d’être. В своей основе гены, конечно, весьма просты. Но они обладают бессознательной целенаправленностью: «желанием» сохранять собственную «жизнь» и преумножать число своих копий. И им удается реализовать свои планы. Жизнь одного гена намного дольше человеческой. Она почти бесконечна. Так кто кем в результате управляет, мы генами или гены нами? Кто стоит у руля? Правда, управление генов организмом происходит не в реальном времени, не как управление, скажем, марионеткой. Генам приходится предвидеть все заранее. Поскольку точные условия окружающей среды в будущем для них неизвестны, они строят самые общие предположения о рисках и возможностях. Направляя синтез белка, они программируют функциональность организма задолго до того, как «механизм выживания» встретится с реальными опасностями. Когда их работа проделана, организму приходится справляться самостоятельно. Но тем не менее именно гены остаются в центре эволюционного процесса и являются авторами «наших» замыслов.
Деннет считает, что наличие исходно семантической составляющей в нашем сознании – это иллюзия. «[Мозг] не может быть создан, чтобы решать невозможную задачу, но он может быть создан так, чтобы решать ее приближенно, подражая работе невозможного объекта (семантического процессора)» [Dennett 1996, 61]. Мозг решает эту задачу, используя соответствия между структурными (синтаксическими) закономерностями в своем внутреннем устройстве и окружающей среде. Правда, что мы оперируем интенциональным содержанием, точнее, как бы оперируем. Но даже люди не обладают первичной, внутренней интенциональностью. Значениями состояния и действия людей наделяются постепенно, в ходе эволюционного процесса, во взаимодействии с миром. И этот процесс не имеет абсолютного завершения. Семантические свойства в любом случае производны. И четкой грани между только лишь «синтаксическими операциями» и «семантическими операциями» не может быть. Допущение четкой разделительной линии между ними – это тупиковый путь, ошибочный путь эссенциализма, на который философия все время норовит свернуть, может быть, еще со времен Сократа.
Абсурдность философского поиска сущностных свойств и проведения повсюду границ Деннет иллюстрирует с помощью псевдоаргумента, Аргумента о невозможности существования млекопитающих [Dennett 2013, 240]:
1. Каждое млекопитающее имеет мать-млекопитающее.
2. Если млекопитающие существуют, их к настоящему времени было конечное количество.
3. Но у каждого млекопитающего должна быть мать-млекопитающее. Тогда к настоящему времени должно быть бесконечное количество млекопитающих. Это приводит к противоречию с пунктом 2.
Из этого аргумента будто бы следует, что млекопитающих не существует. Но это же абсурд. Несмотря на формальную корректность аргумента, следствие ложно. Ошибочны посылки, скрытое в них предположение наличия четкой грани между млекопитающими и их предками. И полностью автономные семантические двигатели – это такая же химера, как «первое млекопитающее». Млекопитающие постепенно эволюционируют из рептилий. И между двумя видами стоит множество транзитных «как бы млекопитающих» и их матерей (животных из отряда терапсидов). Аналогичным образом эволюционируют и семантические двигатели. Они не появляются внезапно. Более того, идеального семантического двигателя не существует. Поэтому вряд ли стоит удивляться, что воображаемый аппарат из двух ящиков не может абсолютно точно схватить свойство «быть истинным выражением». Он работает на «почти истинных выражениях» в большинстве случаев; впрочем, как и мозг человека.