Uncategorized

Exit from the "Chinese room" or whether the machine can think / SurprizingFacts

Foreword

I have long been interested in the problem of consciousness and its connection with the brain. One day I came across a very interesting thought experiment called the "Chinese Room". I do not remember which publication I first read about him, but he was very interested in me, so I began to study the question. Only after reading the original article [1] I realized that in most sources the author's ideas are presented in a simplified, distorted and incomprehensible way. The experiment with the Chinese room raises questions, and tries to give answers. The questions are very interesting, and the answers, in my opinion, are unsatisfactory. Therefore, I pondered for a long time and decided to formulate the solution of this problem myself, which my article will be about.

The essence

In 1980, the philosopher John Searle first introduced his mental experiment in the article "The Minds, Brains, and Programs" of The Behavioral and Brain Sciences. The experiment caused a lot of controversy among people dealing with the problems of philosophy of consciousness and artificial intelligence. The stated purpose of the article was to prove two statements: 1) The intentiality of man (and animals) is the result of the causal properties of the brain; And 2) The computer program can not be a sufficient condition for the emergence of intentionality.

Three decades before the publication of Searle's article, Alan Thuring formulated his famous criterion for a reasonable machine, also known as the Turing Test: a computer capable of maintaining dialogue (textual) and thus descending for a person must be considered reasonable. By the end of the 1970s, AI's computers and programs had reached a point where some of their developers began to claim that their machines were able to understand English. Searle's article, containing the experiment described below, largely became a reaction to such statements and the general view that the computer in principle is able to understand human speech.

What was the experiment? Searle proposed to present the room in which the man is. Inside the room you can serve cards with Chinese characters drawn on them. A person inside the room does not speak or read Chinese at all, so the meaning of the hieroglyphs is not clear to him. At the same time, the person is given detailed instructions on how to handle incoming cards and what cards to answer. Thus, a person outside the room can ask various questions with the help of cards and receive intelligible answers. A person who asks questions should get the impression that a person inside the room is fluent in Chinese and understands the meaning of their dialogue, but in fact he only executes instructions unconsciously and does not understand a word. Moreover, a person in a room is not even able to gradually learn the language, because meaningless cards for him in Chinese are the only way to communicate with the outside world.

In this example, it's easy to see a parallel with the computer. The computer also operates with data in binary code, which makes absolutely no sense for it, the machine simply performs arithmetic and logical operations according to the instructions it contains.

According to Searle, the computer (or the Chinese room) is not able to reach understanding, because Only syntactic constructions operate. The person, in turn, perceives and operates with meanings, and not only with the symbols themselves, to which the computer is not capable. If you summarize the ideas Searle outlined in the article, he is not against the idea of ​​the existence of artificial intelligence as such. His main idea is that for the existence of consciousness there is not enough formal program, but it is necessary to have a medium possessing properties that generate intentionality, a formal program does not make sense and can not serve as a carrier of understanding or consciousness: "… only a machine could think, and Only very special kinds of machines, namely brains and machines with internal causal powers, equivalent to those of brains … Intentionality in human beings (and animals) is a product of causal features of the brain … Of intentionality "[1]. Thus, Searle says that intentionality is a necessary property for the emergence of thinking, and this intentionality is the product of some intrinsic properties of the brain. A machine with the same properties is capable of thinking. The classical computer does not have such properties, therefore, no matter what program is written, it can not lead to the emergence of thinking, and, as a consequence, to the emergence of consciousness.

"The aim was the Chinese room To try to show that the formal program carries no additional intentionality. It adds nothing, for example, to a man's ability to understand Chinese. " [1]

(The purpose of the example with the Chinese room was to try to reflect this, showing that as soon as we put something that really possesses intentionality (of the person) into the system and program it with a formal program, then we can To make sure that this formal program does not bring any additional intentionality.It does not add anything, for example, a person's ability to understand Chinese.)

The ideas outlined by Searle can not be called complete, which caused a lot of controversy around them. Nevertheless, these disputes did not lead to a final conclusion. Neither the opponents of Searle, nor his supporters, nor the philosopher himself has ever come to the solution of important questions, the answers to which must lie at the basis of thinking about consciousness and AI: "What properties of the brain generate intentionality?", "What is the meaning? And how does it come about? "," What is the process of forming understanding? "

In this article I will try to answer these questions.

First of all, it is necessary to understand intentionality – an intrinsic property of the brain – which, according to Searle, is so necessary for the existence of consciousness. To do this, I want to depart somewhat from the main topic and consider briefly the origin and evolution of living organisms.

Biological evolution can be considered as a continuation of the evolution of the chemical, which in turn is the continuation of physical evolution. According to modern cosmological concepts, after a larger explosion, a huge amount of energy / matter was released, which, as the universe expanded and cooled, condensed into a huge number of diverse particles. The lifetime of most particles, due to their instability, turned out to be extremely small, and after a while only the most stable particles remained, which became the basis for the formation of atoms of known chemical elements. The atoms of matter interacted, forming various compounds. The most stable of them were accumulated, the unstable ones disintegrated and merged into stable ones. As a result of existing unique conditions on Earth, compounds appeared that were not only sufficiently stable, but could also produce duplicates of their molecules, then there were ancestors of DNA. Gradually, such replicating molecules, by random recombinations, evolved to a state where they could not only reproduce their own kind, but also create around them favorable conditions for stable existence and reproduction. This created favorable environment has become an internal environment of bacteria and unicellular organisms, and control molecules, which can already be called DNA, have acquired the function of supporting the dynamic balance of the organism (internal environment) – homeostasis. Next were mutations and natural selection, which created that living world that we know. The idea that all living organisms are only complex mechanisms for the propagation of a DNA molecule is not new, and is considered in detail by, for example, Richard Dawkins [2]. Thus, it is possible to trace how the origin of life derives from the fundamental laws of the existing universe. Roughly speaking, the entire evolution of the universe is just a chaotic movement of energy, subject to probabilistic laws. What happens is that, most likely, what remains in time is the most stable. A living cell, the smallest unit of life, can be regarded as a huge chemical plant with many complex chemical processes, which in themselves each individually have no internal purpose, but all together maintain a stable internal cell environment that is necessary for the existence and replication of DNA. We say that the goal of all living things is survival and reproduction, this is undoubtedly so from the point of view of biology, but it must be noted that man himself "appropriated" these goals to the living one in order to describe the general behavior of living organisms. If one is consistent with the above reflections on evolution, then we must admit that there is no goal or inherent intentionality in living organisms in principle, as there is no goal for the falling apple – it falls under the fundamental physical laws (we can say that the apple tends Fall, but this does not mean that the desire to fall is due to some inherent intentions of the apple). A living organism is a mode of existence of a substance conditioned solely by fundamental physical laws, there is no need for additional magic. I write about this, to show that in terms of intentionality between the living and non-living there is no fundamental difference. DNA is a molecule, it does not and can not have goals, only directions – physical and chemical laws, following which it exists and controls the cell.

Later in this article, when words of purpose, need, Intentionality with respect to living organisms, it must be remembered that these concepts are only convenient abstractions used to describe the behavior behind which the real processes are conditioned by fundamental objective laws and not by vague subjective factors.

As it was already Said, the main distinctive property of living organisms from inanimate physical structures is the ability of the first to replicate and maintain a stable internal environment – homeostasis. These are properties (!), But for convenience we will call these properties goals and return to the fact that the goals of living organisms is the reproduction and maintenance of homeostasis. Consider the standard pattern of behavior of a living organism.

A living organism can not passively exist expecting favors from the outside world, it has to actively influence the environment in order to achieve its goals – to survive and multiply. It is these goals that are the starting points for his behavior. But how to behave yourself? The main question that faces any living organism at any given time is "What to do next?". Consider a hypothetical simplest single-celled organism. In the scheme of his work there are three main elements: the external environment, the internal state and the program (1). Each of them can be the initiator of the movement. For example, to answer the main question, the internal state of the organism is checked, which determines the current needs (for example, nutrition). In a cell, this test is due to chaotic motion of the molecules of the substance of the internal environment. Individual organelles and DNA interact with chemicals and react accordingly. In response to the internal state, a program is started which is determined by DNA, and in more complex multicellular organisms the program is determined by the nervous system. The program starts a process that changes the internal state, which in turn changes the external environment (for example, the body moves in space). The external environment acts on the internal state, and the cycle closes. This scheme is applicable to both the simplest organisms, and to the most complex ones, including humans. Moreover, this scheme is applicable to different parts of the organism, to various systems of different levels. "

(1)

Let's remember the considered scheme and return to the Chinese room. Already said, the principle of its functioning is essentially identical to that of a standard computer, and the experiment itself demonstrates perfectly the limitations of the machine's capabilities for understanding the surrounding world, but wait, is not the brain in the same situation as the person inside the Chinese room? , The brain is dealing The same Chinese script, the brain sits in the dark of the cranium, isolated from everything except the senseless code that it receives from the senses.If we connect the electrode to the nerve cell, any nerve cell, no matter whether it belongs to the brain or the retina of the eye, All that we will see is a series of voltage jumps.For the convenience of observation, such pulses are often connected to the loudspeaker, then they are audible as uneven chirping. This chirping produces nerve cells of the sense organs – retinal cells, ear hair cells, etc. This is the chirring of the brain and gets from the senses. All that the brain can know about the outside world is that it resembles the throbbing rumble of billions of cells. In this ghoul there is absolutely nothing pointing to the presence of space and time, to the existence of objects or people around. Sounds, shapes, colors, smells – it's all quite different from a strange and meaningless chirr. From our own experience, we know that the brain still managed to decode this code and use it quite successfully for orientation in the world. Why does the brain get it, and a person in a Chinese room (or computer) is fundamentally beyond his power? After all, they are in the same position! In fact, the latter statement is erroneous – their position is fundamentally different.

The point is that the method of setting up a mental experiment deprived a person of a fundamentally important possibility inside the room – a person can not ask questions outside. The experimental conditions say that he can take cards, manipulate them according to instructions and thus answer the questions put to him, although the person himself does not understand what these questions are, he does not even understand that these are questions at all. In addition, a person, operating inside a Chinese room, does not pursue with his manipulations any goals – there is no intentionality. Cards do not affect the state of a person inside the room, they are not useful and not harmful, for example, for survival. Although it can be said that the cards affect the internal state of the room as a whole, as they make it perform manipulations, but this influence is neutral, it does not bring the system closer to the goal and does not delete it, since there is no purpose initially, except manipulation for the sake of manipulation, like No feedback. If we consider the work of the nerve cell and the signals it receives (chemical, by its nature), then it becomes obvious that they directly affect the functioning of the cell. They change its internal state. At the same time, the nerve cell has the optimal mode of operation and internal state, the optimal chemical composition. Therefore, the signals do not just change the work of the cell, but also shift its internal state relative to the target (optimal) value. The target internal state is set by the program, which is written in the DNA. The DNA is in a position similar to the brain and from the CC because it does not directly contact the outside world, but only through the intracellular medium. Thus, the optimal internal state, which is the goal of cell functioning, is both a condition and a cause of intentionality inherent in this cell, is given by the program (DNA).

You can say that the program itself is the bearer of intentionality. But where did the intentionality come from? As already mentioned, DNA exists and functions according to physical / chemical laws. Replication and other functions associated with maintaining homeostasis are the properties of DNA that result from these laws, and not the goals or needs of DNA. Just as redness is a property of a red apple, not its intention. It follows, as I said at the beginning of the article, that what we call the intentionality of living organisms is essentially not it. Therefore, the question "where does intentionality come from?" Does not make sense. Intentionality is not there, as there is no it anywhere. There is only a chain of causes and effects that follow universal physical laws. Intentionality is a human invention and a convenient abstraction, however, I already wrote it. But we will continue to use this concept, since it is convenient for describing the complex behavior of organisms. Чтобы немного суммировать написанное, выстроим логическую цепочку возникновения «интенциональности»:

Физические законы → Химические законы → ДНК + эволюция → Репликация и Гомеостаз → Целевое внутреннее состояние → Интенциональность (целевое поведение)

Вернемся к вопросу о «понимании». В чем оно состоит? Когда мы можем сказать, что китайская комната «поняла»? Где проходит граница между понимающей системой, и системой не способной к пониманию? Способна ли единичная клетка обладать каким-либо «пониманием»? И если способна, то чем отличается клетка понимающая от непонимающей?

Можно рассматривать животных, по мере уменьшения и упрощения их ЦНС и задаваться вопросом, способно ли данное животное к пониманию? Лично для меня крайне сложно нащупать границу между пониманием и непониманием таким способом, поэтому я решил пойти снизу вверх, начиная с единичной нервной клетки.

Нервная клетка, в отличие от «китайской комнаты», способна не только пассивно реагировать, принимая сигналы, но и активно воздействовать на их источник. Методами такого воздействия может быть, например, изменение количества рецепторов медиатора на постсинаптической мембране клетки, или изменение частоты и силы (количества молекул медиатора) генерируемых сигналов. Последний метод тем более очевиден, чем проще рассматриваемая нейронная сеть. На основе универсальной схемы функционирования живых организмов (1) рассмотрим простейшую нейронную сеть (2), осуществляющую работу этой схемы.

(2)

Допустим, внешний раздражитель, на данной схеме, это источник света, рецептор (Р) – это световой рецептор на сетчатке глаза, (Н) – управляющий нейрон, а актуатор (А) – мышца отвечающая за сужение зрачка. Очевидно, что схема работает следующим образом: свет попадает на рецептор; тот генерирует импульсы, поступающие на управляющий нейрон; который в свою очередь генерирует управляющие импульсы на сужение зрачка; зрачок уменьшает количество попадающего на рецептор света; в результате чего изменяется частота генерируемых рецептором импульсов и так далее по кругу. Управляющему нейрону в данной схеме ничего не известно о внешнем мире, он с ним не контактирует напрямую. Все, что «известно» данному нейрону это то, как его «поведение» влияет на его внутреннее состояние, т.е. генерируемые на выходе импульсы влияют на характер получаемых импульсов на входе. Нейрон, как и мозг в целом, как и человек в китайской комнате, находится в изоляции, все что его «волнует» и доступно для восприятия — это его внутреннее состояние. Внешняя среда оказывает воздействие, изменяя внутреннее состояние, и, отталкиваясь от этого изменения, нейрон меняет свое поведение. При этом целью поведения является достижение оптимального для клетки внутреннего состояния или режима работы. Возвращаясь немного назад, нужно заметить, что целевое состояние не есть конечная цель, которой, как было уже сказано, является выживание и размножение организма.

Просто для Программы доступна информация только о внутреннем состоянии организма. Достижение целевого внутреннего состояния и является условием для выживания и/или размножения. Целевое состояние не является чем-то постоянным, но зависит от внешних условий и личного опыта клетки. Стоит также отметить, что для самого нейрона не стоит задачи единоличного выживания и размножения, т.к. он является лишь частью целого организма. Однако, преследовать какие-либо другие цели кроме «личных» нейрон (как и любая другая клетка организма) не способен, вследствие ограниченности получаемой им информации. Поэтому залогом успешного функционирования целого организма является то, что «личные» цели отдельных его составляющих согласованны, и их достижение отдельными клетками приводит к выживанию организма в целом.

Для того, чтобы показать, как клетка может что-то понимать или не понимать рассмотрим еще один пример. Представим нейрон, на который воздействуют два химических вещества: А и В. Оба вещества влияют на внутреннее состояние нейрона. Вещество А является нейромедиатором, на который нейрон способен реагировать, т.к. обладает соответствующими рецепторами и программой записанной в ДНК. Вещество А деполяризует мембрану, возникает потенциал действия, часть ионов натрия заходит в клетку, часть ионов калия выходит из клетки, затем баланс ионов восстанавливается с помощью натрий-калиевых насосов, которые приводятся в действие с помощью АТФ синтезируемой внутри клетки. Помимо этого, происходит элементарное обучение, т.е. изменение синаптической проводимости и некоторые другие процессы, являющиеся актом адаптации к внешним воздействиям. Это обычный процесс жизнедеятельности нейрона, все в рамках программы ДНК. Произошло воздействие, воздействие изменило внутреннее состояние, ДНК запустила соответствующую программу, внутреннее состояние вернулось к целевому. Нейрон готов к подобного рода воздействию и знает как себя вести, чтобы вернуться к целевому состоянию.

В случае с веществом В ситуация несколько иная. Допустим, что это ионы тяжелых металлов, которые постепенно проникают внутрь клетки, и клетка не обладает молекулярными механизмами для распознавания и выведения данных ионов. В свою очередь, эти ионы, накапливаясь внутри клетки, мешают нормальной работе ионных каналов и тем самым нарушают баланс веществ.

Существующих внутриклеточных механизмов оказывается недостаточно, чтобы поддержать баланс на должном уровне, избегание воздействия тоже не происходит, клетка не способна адаптироваться к воздействию, вернуться в целевое состояние. Отсутствие адекватной реакции адаптации можно расценивать как «отсутствие понимания» клеткой данного вида воздействия. В ходе эволюции клетки способны приобрести это «понимание», если подобное воздействие будет оказывать существенное эволюционное давление.

Подведем итоги. Что представляет собой система (например, живой организм) способная к пониманию? Система должна обладать следующими свойствами:

1. Интенциональность. То есть функционирование системы должно иметь цель – достижение и/или поддержание некоего внутреннего состояния;
2. Каузальность. Система способна воспринимать только такое воздействие, которое влияет на внутреннее состояние системы таким образом, что оно смещается от целевого состояния;
3. Адекватная реакция. После того, как воздействие вызвало изменение внутреннего состояния, система должна попытаться вернуться к целевому состоянию. Достигается это за счет изменения внешнего воздействия, т.е. происходит обратное воздействие на внешнюю среду (простейший пример – избегание).
4. Реакция подразумевает наличие Программыкоторая запускает поведение в ответ на соответствующее воздействие. В Программе хранятся целевые состояния и порядок действия/реакции в различных ситуациях. Нужно заметить, что такая Программа обладает некоторого рода предвидением, поскольку чтобы запустить адекватное поведение, необходимо знать, что результатом этого поведения (с некоторой вероятностью) станет достижение целевого состояния.

Такое знание или предвидение живые организмы приобретают в ходе фило- и онтогенеза.
Не трудно убедиться, что любой живой организм обладает перечисленными свойствами. А как насчет «китайской комнаты»? Как правильно заметил Серл, у нее отсутствует интенциональность. Из наших рассуждений это следует из отсутствия целевого внутреннего состояния. Соответственно все остальные пункты тоже отсутствую, потому как они базируются на первом. Сигналы (воздействие) передаваемые в КК, воздействуют на внутреннее состояние, но не смещают его от целевого, они нейтральны. А если нет смещения, то и адекватной реакции не может быть. Правда КК обладает Программой, но эта программа не удовлетворяет описанным требованиям, а именно, не запускает адекватное поведение.

Способна ли формальная программа наделить классический компьютер мышлением, т.е. наделить систему 4-мя описанными свойствами? Очевидно, ответ – да. Я не хочу описывать, каким образом этого достигается, так как это довольно просто сделать, опираясь на приведенные выше тезисы.В конце концов, ДНК так же является формальной программой. Вместо этого предлагаю рассмотреть более радикальный и любимый многими философами пример – обыкновенный термостат.

Термостат – это прибор для поддержания постоянной температуры. Схема и принцип функционирования термостата могут быть очень просты. Элементарный термостат имеет датчик, который срабатывает при заданном пороговом значении температуры и передает управляющий сигнал на включение/выключение нагревательного элемента. Допустим, такой термостат поддерживает температуру в комнате на уровне 25 град С. Изначально, обогреватель работает и повышает температуру в комнате. Когда температура поднимается до 25 градусов, датчик срабатывает и отключает обогреватель. Комната начинает постепенно остывать. После того, как температура опустилась ниже определенного порогового значения (например 23 градС), датчик срабатывает и включает обогреватель. Цикл повторяется.

Проверим, обладает ли термостат 4-мя свойствами мыслящих (семантических) систем. Первое – целевое состояние и интенциональность. Термостат «стремится» поддерживать температуру датчика в районе 25 градС. Это вполне попадает под определение целевого внутреннего состояния системы. Второе – внешнее воздействие. Термостат способен воспринимать температуру и только ее, таким образом, система одномерна, к тому же обладает всего двумя состояниями, грубо говоря, «Вкл» и «Выкл». Диапазон «ощущений» так же сводится к двум – температура выше или ниже порогового значения. Третье – адекватная реакция. Поведение термостата адекватно воздействию и направлено на восстановление целевого внутреннего состояния – заданной температуры датчика. При этом термостат воздействует на внешнюю среду, которая в свою очередь воздействует на датчик. Все в рамках описанной концепции. Четвертый пункт – программа. Можно сказать, что программа задана самой конструкцией термостата и параметрами датчика.

Выходит, что термостат способен мыслить и понимать. Кому-то это покажется смешным, кому-то безумным, а кто-то согласится с ходом моих размышлений. К тому же, я не первый, кто пришел к подобным выводам [3]. Конечно, уровень понимания термостата совершенно иной чем тот, которым обладает человек или даже мышь, это элементарнейший уровень. Поэтому попытки проводить параллели между человеком и термостатом могут показаться притянутыми.

Человеческое мышление подразумевает задействование огромного количества элементарных схем, связанных между собой, и вложенных друг в друга. Мир внутренних состояний бесконечно богаче мира термостата, но суть самого процесса мышления остается одинаковой на всех уровнях. Суть эта отражена в схеме (1) и четырех свойствах мыслящей системы.

Важно всегда помнить при исследовании структур мозга и его функций, что главным назначением и конечным продуктом мозга является не мышление, а действие. Действие, направленное на внешнюю, по отношению к исследуемой структуре, среду. Целью такого действия является изменение воздействия среды обратно на внутреннее состояние организма (структуры, клетки). Это и есть описанный в схеме (1) цикл: Внеш. Среда → Внутр. Состояние → Программа → Внутр. Состояние → Внеш. Среда. Этот цикл и порождает «смысл», образует смысловую петлю. При этом в качестве внешней среды может выступать как окружающий мир, так и другие структуры организма или соседние клетки, в зависимости от того, какой уровень системы рассматривается.

Таким образом, смысл любой информации (воздействия) заключается в том, какое влияние она оказывает на внутреннее состояние, и какое ответное воздействие организм (структура) может оказать, чтобы изменить это влияние. Говоря еще проще, смысл информации заключается в ответе на вопрос «Что делать в связи с полученной информацией?». Назначение мозга в конечном счете тоже сводится к ответу на этот вопрос, Главный вопрос, как я назвал его в начале статьи при описании схемы (1): «Что делать дальше (чтобы выжить и размножиться)?».

Заключение

В заключение, вернемся к тезисам, которые выдвинул Джон Серл в своей статье.

1) Интенциональность человека (и животных) есть результат каузальных свойств мозга.
Данное утверждение верно лишь отчасти. Если тщательнее разобраться, корни интенциональности уходят глубже. Носителем интенциональности всего живого является ДНК. Это сложная молекула, обладающая ключевым свойством – способностью к саморепликации. Именно это свойство сделало возможным эволюцию ДНК, в ходе которой молекула строила вокруг себя все более и более сложные живые организмы. Именно ДНК определяет структуру, развитие и поведение живого организма. ЦНС появляется несколько позже в процессе эволюции. Она необходима для управления большим и сложным многоклеточным организмом и способна значительно расширить поведенческий репертуар. Мозг является сложной динамической самоорганизующейся структурой.

Внутреннее состояние мозга, с одной стороны, отражает отдельные характеристики внешнего мира, с другой стороны, содержит информацию о состоянии и функционировании организма. Цель мозга – поддержание оптимального внутреннего состояния организма. Для достижения этой цели мозг действует как реактивно, так и проактивно. Как видно из рассуждений, мозг хорошо вписывается в схему Внешний мир <-> Внутреннее состояние <-> Программа. Мозг, как и ДНК, выступает в роли носителя программы. Эта программа частично задается ДНК во время развития организма, частично формируется жизненным опытом. Она хранится в структуре связей нейронной сети и текущей активности нейронов. Программа является носителем интенциональности — направленность мышления и поведения. Таким образом, можно сказать, что интенциональность мозга задана структурой его нейронных связей и свойствами самих нейронов, и то и другое определяется по большей части ДНК.

2) Выполнение компьютером программы не может быть достаточным условием появления интенциональности.

Как было показано, носителем интенциональности в живых организмах является именно закодированная в структуре ДНК, программа. Сам физический носитель в данном случае не принципиален, главное чтобы он был способен взаимодействовать с внутренней средой и обладать достаточной структурной емкостью, чтобы вместить программу. В этом смысле, ДНК ничуть не предпочтительнее полупроводниковых элементов, из которых сделан компьютер. Любой организм – это, в конечном счете, машина, талантливое инженерное решение эволюции. Любая машина является физическим носителем программы, которая записана в самой структуре машины. В то же время, любая программа нуждается в физическом носителе для того, чтобы быть запущенной.

Каким образом все вышесказанное относится к способности компьютера понимать человеческую речь? Любое внешнее воздействие обретает смысл только будучи встроенным в цепочку причинно-следственных взаимодействий Внеш. Среда (воздействие) → Внутр. Состояние → Программа → Внутр. Состояние → Внеш. Среда (воздействие). Это применимо и к словам, с единственной оговоркой, поскольку слова являются абстракциями высокого уровня, причинно следственная цепочка для них будет выглядеть сложнее, хоть и сохранит общую структуру и смысл. Другими словами, слово, как и все остальное, имеет смысл только в том случае, если способно повлиять на внутреннее состояние так, что сместит его от целевого состояния. Для человека слово «красный» имеет большое значение. Например, красные ягоды – спелые, а зеленые – нет. Это полезная для выживания информация. Для компьютера, чтобы слово красный обрело значение, притом схожее с человеческим, ему необходимы сенсоры, воспринимающие красный цвет, цель и взаимосвязь красного цвета и достижения цели. В одном Серл был совершенно прав, современные компьютеры лишь симулируют понимание, т.к. их «знания» о словах опираются не на реальный опыт, а на другие слова, что в теории может породить некоторую степень понимания, но совершенно отличную от человеческой. К тому же современные компьютеры и программы не наделены внутренними целевыми состояниями, что делает невозможным появление смысла.

P.S. Цепь размышлений в данной статье идет снизу вверх, от элементарных понятий и объектов, к более сложным и абстрактным. Размышления следуют логике эволюции и в целом опираются на эволюционную парадигму. Такой подход видится автору наиболее научным. Терминология также развивается снизу вверх. В результате, современные понятия получают новую трактовку. Автор не ставил себе целью подмену терминов, и тем более нет у него желания использовать это в качестве хитрого приема, для облегчения задачи объяснения феномена мышления. Новая трактовка терминов является неизбежным следствием последовательных размышлений основанных на научном подходе. Современная философия сознания зачастую использует подход «сверху вниз» и потому постоянно жонглирует терминами, которые ссылаются друг на друга. В результате, картина напоминает попытку вытащить себя из болота за собственные усы. Отличие данной статьи заключается в том, что мышление выводится непосредственно из фундаментальных законов. Таким образом, мышление лишается ореола загадочности и перестает быть прерогативой человека, высших животных, и даже животных вообще.

Можно заметить, что в статье понятие мышления приравнивается к понятию понимания. Необходимо разъяснить этот момент, чтобы избежать непонимания. Если говорить о мышлении в его классическом определении, то это сложный многоуровневый процесс, и понимание является лишь его частью. Более того, понимание в том виде, в котором оно используется в данной статье тоже не дотягивает до своего общепринятого оригинала. Можно привести некоторую иерархию существующих общепринятых понятий, которые близки вопросу, обсуждаемому здесь:

Ощущение → Восприятие → Понимание → Мышление

Строго говоря, то, что я называю здесь актом мышления, ближе по своим свойствам к самому нижнему уровню этой иерархии – ощущению. Вот определение ощущения взятое из Википедии: «Ощущениечувственный опыт — простейший психический процесс, представляющий собой психическое отражение отдельных свойств и состояний внешней среды, субъектом внутренних или внешних стимулов и раздражителей при участии нервной системы». Что касается восприятияоно основано на ощущениях, но является более сложным процессом, подразумевающим активное извлечение информации из окружающего мира, в том числе и путем воздействия на мир. Понимание подразумевает не только восприятие информации, но и интеграцию полученной информации в собственную структуру знаний. Мышление находится наверху цепочки, оно включает в себя все предыдущие уровни и другие процессы, подразумевающие оперирование полученной информацией (анализ, синтез, абстрагирование, классификация и т.д.). Поскольку каждый последующий уровень приведенной иерархии понятий включает предыдущий, то понятия пересекаются. Если постепенно двигаться от мышления во всей его полноте и сложности, как оно представлено у человека, к более элементарным уровням мышления, как у более простых животных, то можно заметить, что понятия ощущения, восприятия, понимания и мышления постепенно сближаются и приобретают именно тот вид, который они получили в данной статье, становясь единым понятием. Если разобрать элементарный акт мышления, описанный выше, то он включает в себя зачатки всех понятий входящих в цепочку. Рассмотрение мышления на его элементарном уровне позволяет избавиться от лишней шелухи, и увидеть суть процесса. Сформированное таким образом заново понятие мышления является хорошей отправной точкой для дальнейших размышлений и исследований.

1. Searle J. Minds, Brains, and Programs. The Philosophy of Artificial Intelligence / Boden M (ed.) Oxford. 1990. Впервые опубликовано в журнале: «The Behavioral and Brain Sciences», 1980, № 3, pp. 417–424.
2. Докинз, Ричард. Эгоистичный ген. — Пер. с англ. М.: АСТ:CORPUS, 2013
3. Чалмерс Д. Сознающий ум: В поисках фундаментальной теории. М.: URSS, 2013