Механизмы сознания

Корниенко Е.

Собрание тем из форума. В этой статье осуществлена попытка разобраться в сознании и как его перенести в програмный вид.

Содержание

• Введение
• Что такое сознание?
• Осознавание себя
• Жизнь среди себе подобных
• Способность обучаться
• Механизм свободы воли
• Первая и третья персоны
• Тест осознавания себя
• Безусловные рефлексы
• Смысл объектов
• Самообучение
• Самообучающаяся бабочка
• Механизм предвидения
• Определение творчества
• Примитивный случайный поиск
• Поиск поведения
• Биологические мотивы творчества
• Разум кибер-бабочки
• От смутного желания к осознаванию себя
• Зарождение смысла
• Некоторые итоги

Введение

Эта работа в основном была сделана в 1997 году. Я хотел разобраться, как работает сознание, используя конструктивный подход: идея считается достойной внимания, только если она подкреплена детальным алгоритмом, который должен работать уже сегодня, а не в неопределённом будущем.

В результате проработки и отбраковки многочисленных тупиковых идей пришлось отказаться от применения таких признанных инструментов, как нейронные сети и семантический анализ. Первоначальное сознание не требует (и не может возникнуть из современных искусственных) нейронных сетей, а язык появляется на поздних стадиях развития сознания. Вместе с тем, я считаю эти направления технически очень важными. После того, как построена активная система, способная обучаться и накапливать полезный опыт, её восприятие мира может быть значительно улучшено применением систем распознавания образов, основанных на нейронных сетях, а её разумность может быть повышена путём обучения с применением обоснованных семантических структур для передачи знаний. В моём алгоритме сознания возникают и развиваются структуры, похожие на нейронные сети, и ёмкие команды, похожие на слова.

Сознание возникает у животных как одно из средств, улучшающее их адаптацию к окружающей среде. Быстрая (по сравнению со временем жизни животного) адаптация требует способности предвидеть, а мотивом адаптации служат биологические жизненные потребности организма. Искусственная система, обладающая такими свойствами, тоже приобретает сознание.

В этой статье я стараюсь рассказать о работе сознания в "функциональном" стиле. Читатели с тренированным системным мышлением увидят за этим описанием взаимодействие объектов, которое может быть запрограммировано. Малая ресурсоёмкость алгоритма наводит меня на мысль, что весьма высокий уровень сознания, вплоть до сознания млекопитающих, может быть воплощён сегодня. Это послужило поводом написать вступительную статью "Опасно разумен".

Я недостаточно знаком с мировым опытом в области искусственного интеллекта, не претендую на новое слово, и заранее извиняюсь за повторение уже известных идей без соответствующих ссылок.

Алгоритм сознания, который я демонстрирую в этюде "бабочка и цветок", запоминает, структурирует, использует опыт и пытается удовлетворить свои желания. Он может быть встроен как в эфемерное существо на экране, так и в игрушечного робота. Но уровень его сознания, достигаемый без специального обучения, не превышает сознания селёдки. В результате обучения, например, различных игр, этот уровень может сравниться с сознанием мыши или даже кошки. Я уделял основное внимание "чистому" самообучающемуся сознанию, и пока ещё не разработал средств интерактивного обучения. В используемом алгоритме важен не столько мозг, сколько система взаимодействия с внешним миром.

Что такое сознание?

Как устроено сознание? Какие процессы, механизмы, взаимодействующие объекты требуются, чтобы возникло сознание и осознание себя? Что нужно для изготовления не модели сознания, а просто сознания?

Обычно слово сознание применяется, как характеристика отдельного существа. Оно может "потерять сознание". А слово разум означает принципиальную способность быть сознательным. Например, "человек разумный". Есть и другие толкования. Но я не буду больше останавливаться на словах. Только на том, почему возможно сознание и как оно работает.

Неизвестно, как доказать, что человек думает.

Уверенность в том, что люди думают, основана на опыте и убеждённости в собственном сознании, а не на измерениях и логических выводах из них. Вот почему науке трудно подступиться к глубокому изучению сознания. Мы можем изучать мозг, нейроны, языки, поведение, но не сознание само по себе.

Мы наблюдаем не разум, а разумное поведение.

Раз уж мы не можем это точно доказать, то будем субъективно судить о наличии сознания у некоторого объекта по его поведению. При этом можно принять какое-то поведение за сознательное, а впоследствии выяснить, что это была ошибка. Но более надёжного способа у нас нет, и не будем терять время на его установление, если только это не окажется критичным для ответа на поставленные вопросы.

Сущность субъекта субъективна.

Человек относится к себе слишком предвзято. И хотя я считаю, что могу сделать полезные выводы о природе сознания на основании поведения людей, но я также уверен, что эти аргументы не убедительны (для людей). Поэтому будем рассматривать сознание других животных.

Поведение животного управляется его нервной системой.

Обычно, чем больше мозг животного, тем разумнее поведение этого животного. Нервная система, как и другие органы и системы организма, изобретена природой как одно из средств, обеспечивающих выживание вида. Развитие нервной системы и увеличение централизованного мозга произошло тоже в результате эволюционной борьбы за выживание. Но есть такие формы жизни, которые выживают и без нервной системы, например, растения.

Растения не живут, а выживают.

Сравним индивидуальное поведение растения и животного. Что, собственно, в их поведении способствует выживанию вида? Само слово поведение плохо подходит к растению. Растения проживают свой век без заметного проявления индивидуальных свойств. Выживаемость одного растения заключается в том, что оно способно вынести неблагоприятные условия, которые могут наступить в какой-то период жизни растения. Приспособляемость вида растений к изменяющимся условиям обеспечивается тем, что растения, которые плохо приспособлены к данным условиям, не выживают и не передают свои неудачные признаки потомству.

Животные способны улучшить свою жизнь.

Совершенно иначе относятся к неблагоприятным условиям животные, например, кошки и мышки. Они активно пытаются найти выход из положения. Собственно, это я и называю поведением. Поведение - это достаточно быстрая реакция в ответ на изменяющиеся внешние условия. Если плохие условия сохраняются долго, то кошка пытается приспособиться к ним. Она ищет правильное поведение в новой для неё обстановке. Но если все попытки улучшить ситуацию оказываются безнадёжными, то кошке, как и растению, остаётся только надеяться и терпеть.

Сложное поведение животных является проявлением условных и врождённых рефлексов. Это справедливо как для простых животных, вроде улитки, так и для наиболее смышлёных, вроде собаки. В отличие от растений, животные, имеющие нервную систему, способны приобретать условные, генетически не запрограммированные рефлексы, то есть обучаться.

Животные могут найти новое выгодное (то есть разумное?) поведение.

В некоторых случаях поведение, основанное на приобретённых рефлексах, настолько "разумно", что некоторые, например я, считают его разумным без кавычек. Является ли это поведение проявлением "настоящего" разума или лишь изощрённой адаптацией живого организма к меняющемуся миру, неизвестно, так как мы можем судить о разуме только по поведению, и не имеем конструктивного "индикатора наличия разума". А чем, если не адаптацией к миру вплоть до изменения мира по своим потребностям, является поведение человека?

Итак, условившись судить о разуме по поведению, мы можем признать два важных факта.

Суждение о наличии разума субъективно, вплоть до того, что некоторые люди считают поведение некоторых своих соплеменников несознательным.

Можно ввести субъективную шкалу разумности. Например, улитка, кошка и человек перечислены здесь в порядке увеличения разумности.

Не исключено, что разум начинается не с самого простейшего уровня организации нервной системы, а "возникает" при достаточном её развитии. Однако, пока нам не ясно, что такое разум, и не ясен механизм такого возникновения, будем считать, что все существа с нервной системой разумны. В частности, самые простые существа могут иметь "нулевую" или "исчезающе малую" разумность. Зато при таком подходе мы можем сравнить поведение многих животных, чтобы найти, что же именно в поведении данного животного кажется нам разумным. Это должны быть такие признаки, которые выявляются у всех без исключения животных. Явно разумность заключается не в том, что существо питается и размножается, потому что подобные признаки есть и у растений, которые, судя по отсутствию поведения, разумом не обладают.

Такие неплохие определения сознания, как способность к достижению цели, или к нахождению решения, или к принятию решения, нам тоже не подходят, так как они не конструктивны, в частности, не связаны однозначно с наблюдаемым поведением. "Цель" и "решение" сами определяются через сознание. Способность к общению с себе подобными, и формы такого общения "более наблюдаемы", но часто их трудно отличить от физического взаимодействия. Пример: перенос пыльцы.

По-моему, хорошим наблюдаемым критерием разумности является способность активно приспосабливаться к меняющимся окружающим условиям, то есть способность обучаться на основе своего опыта.

Самообучение - признак сознания.

Начальное сознание возникает при такой организации нервной системы, которая обеспечивает возможность обучаться. Это ещё не то самосознание, которое заставляет вас уступить место старушке. Конструктивность этого определения состоит в том, что оно не ограничивает средства для изготовления "творческого мотора". Изобретите и создайте устройство, способное самообучаться - и оно получит сознание. Найдите способность к самообучению у робота, и этим будет доказано, что он обладает сознанием.

Вместо слова "самообучение" я иногда использую более широкое понятие "адаптация". Если существо самостоятельно находит новое поведение в новых условиях, причём никто не учил его этому поведению, то это существо способно к адаптации (к самообучению). Изобретение нового поведения - признак творчества, а творчество - признак сознания.

Человек вооружённый

Человек, снабжённый современными техническими средствами (книгами, автомобилями, оружием), способен выжить в более широком диапазоне внешних условий. Он лучше адаптирован к миру, чем человек, как живое существо. В соответствии с таким определением, можно считать, что сознание цивилизованного человека продолжает развиваться, хотя сознание "биологического" человека, может быть, имеет пределы, которые уже достигнуты, судя по тому, что нам приходится интенсивно учиться всю жизнь.

Разумность пропорциональна способности к адаптации.

Большой потенциал адаптации хорошо виден из такого мысленного эксперимента. Представим себе существо с максимально развитой адаптацией. Пусть это существо вынуждено приспосабливаться к человеческой культуре. И оно научилось играть в шахматы, конструировать космические ракеты и сочинять изысканные стихи. Кто теперь откажет ему в разумности!

Поэтому способности живого существа к адаптации следует считать проявлениями его сознания. И каждый вправе субъективно оценивать степень развития этого сознания.

Осознавание себя

"Начальное" сознание не гарантирует осознавания. Осознавание - это такой уровень развития сознания, при котором субъект отличает себя от других объектов.

Осознавание себя – главный общепризнанный признак сознания. Однако это лишь частный случай осознавания "внешнего" мира. Мы воспринимаем внешний мир в виде различных качеств, которые отражают физические параметры природных явлений, регистрируемые нашими органами чувств. Мы осознаём не своё сознание, а свои ощущения объектного мира и свои мысли, представимые в виде образов из объектного мира, то есть в виде образов ощущений. Суждение о собственном сознании выводится из наблюдения своего поведения. Поэтому проблема осознавания себя сводится к проблеме осознавания своих ощущений.

Осознавание ощущений обеспечивает тот же внутренний механизм сознания - мотор самообучения и творчества. Собственно сознание – это не мозг, не поведение, а именно механизм, то есть особый процесс обработки информации.

Сознание - это процесс.

Можно полностью сохранить информацию, и остановить процесс её обработки. При этом сознание исчезнет.

Для осознавания важно, что творческий механизм сознания вырабатывает оптимальное в данных обстоятельствах поведение органов. Поведение мозга - это его взаимодействие с другими органами. Поведение руки - это её взаимодействие с физическим миром и с мозгом. Если найдено достаточно совершенное "не улучшаемое" поведение, то осознавание тоже исчезает, заменяясь автоматическим управлением. Поэтому тщательно отработанное поведение, например, при игре на музыкальном инструменте, становится автоматическим и не отвлекает осознавание от музыкального творчества.

Хотя мы не придаём этому большого значения, но следует заметить, что сопутствующие автоматическому поведению ощущения тоже могут становиться автоматическими, то есть неосознаваемыми. Например, здоровый человек не обращает внимания на то, что при ходьбе на ступни его ног действует сила в десятки килограммов. А в другой ситуации мы чувствуем и сознательно реагируем на лёгкое прикосновение.

Сознание - это не материальный предмет.

Вопрос "где находится сознание" не имеет смысла. Необходимую обработку информации может выполнять локальный нервный узел, мозг или удалённый процессор, но сознание не находится внутри этих органов. Например, мы видим бабочку на экране компьютера. Обработка сигналов, вырабатываемых её органами,  происходит внутри системного блока, а материального тела у неё вообще нет. Отсюда следует, что нельзя присваивать функцию сознания мозгу, так как мозг является только одним из органов, поддерживающих наблюдаемое сознательное поведение живого существа.

Осознавание необходимо только там, где невозможна автоматизация.

Живой мозг, как информационная машина, постоянно взаимодействует с объектным миром. Только малую часть своих способностей он выделяет для осознаваемого творчества. А сам механизм сознания - это неостановимый процесс, который работает, даже когда мы спим и ничего не осознаём. Осознание себя - это только один из многочисленных процессов, происходящих в сознании при управлении телом и его поведением в окружающем мире. Это процесс творческого (то есть, неавтоматического) восприятия внешнего мира. Восприятие мира нельзя полностью автоматизировать, так как разумное живое существо должно быть готово к неожиданному непредсказуемому изменению в окружающем мире. Требуется сохранять внимание и иметь "резерв разумности" (осознавание и способность к умозаключениям), чтобы адекватно изменить поведение.

Большая часть процессов сознания - это управление органами тела, доведённое до автоматизма, и поэтому оно не осознаваемо. Я допускаю, что в то время, когда мозг и другие органы ещё не родившегося ребёнка развивались и приучались взаимодействовать друг с другом, этот творческий процесс самообучения был осознаваем. А материнский организм помогал обучению, страхуя плод от слишком богатого творчества.

Осознание себя индивидуальностью - не основа сознания, а ощущаемая, наиболее творческая сторона его работы, которая не может превратиться в автоматическое легко узнаваемое поведение. Поэтому сознание другого субъекта непосредственно не наблюдаемо. А вот собственное сознание наблюдаемо. Хотя автоматические процессы и составляют основную работу механизма сознания, но они являются подсознательными и не отвлекают нашего внимания от творческой работы сознания, какой бы малой она ни была.

Критерий понимания – это работающий самообучающийся алгоритм.

Разработав алгоритм (технологию) самообучения или универсальной адаптации и снабдив этим алгоритмом искусственное существо, мы обеспечиваем его средством для развития сознания и осознавания себя.

Жизнь среди себе подобных

Поскольку изолированное сознание не наблюдаемо, то моделирование самообучающейся системы возможно только одновременно с моделированием органов чувств и действий, то есть датчиков для взаимодействия с искусственным или реальным миром. Объекты (тела) в этом мире могут не иметь разума или выполнять какие-то запрограммированные действия. А часть объектов могут быть разумными, например, это люди и роботы.

Для нас разумны только люди.

Пусть создана искусственная жизнь. Попробуем проверить разумность какого-нибудь искусственного существа. Если оно развивалось в окружении себе подобных, а не людей, то у него совсем другой мир интересов. Оно будет похоже для нас не на мыслителя или хитреца из теста Тьюринга, а на животное, машину или программу.

Голый философ

Отсутствие давления человеческой культуры сделает то же самое и с человеком. Представим себе тёмное безграничное пространство без тяжести, заполненное неподвижным чистым воздухом при нормальных условиях. В этой невесомости висит голый философ. Для упрощения, пусть он не хочет есть. Долго ли он будет оставаться мудрецом?

Вскоре он потеряет разум. Опыт показывает, что сильное уменьшение сенсорного потока (сенсорный голод) приводит к потере сознания. А продолжительное ограничение контакта с людьми, как в одиночной тюремной камере, опасно для психики.

Этот пример ещё раз показывает, что постоянный динамический контакт с объектным миром является обязательным условием как жизни, так и разума. А полноценная разумная жизнь возможна только в какой-нибудь культурной среде. Например, среди людей. Для того чтобы мы могли признать существо разумным, оно должно приспособиться к человеческой культуре. Если попугай сможет пройти тест Тьюринга, то никто не станет сомневаться в том, что он обладает сознанием. Но если такой же или ещё более разумный попугай никогда не встречал людей, то он не может пройти тест Тьюринга. Потому что это тест на наличие человеческого сознания.

Способность обучаться

В природе умение быстро обучаться или быстрая адаптация способствуют выживанию вида в конкуренции с другими подобными видами. Самообучение, как признак сознания, связано с выживаемостью потому, что существо, способное обучаться, способно предвидеть что-то важное, что может произойти в ближайшие секунды, или, хотя бы, доли секунды. Это существо предвидит и результат своего действия, например, таракан знает, что он убегает от опасности.

• Адаптация требует умения прогнозировать и находить новое поведение.
• Биологическая польза сознания – способность предвидеть.
• Польза осознавания - правильная реакция на то, чего нельзя было предвидеть.

Тест на способность обучаться

Этот тест предполагается применить к наиболее примитивным существам: улитке, гидре. Если он даст положительный результат, значит, это существо способно предвидеть, обучаться и самообучаться, то есть оно обладает, по крайней мере, рудиментарным сознанием.

• Подготовка.
  Наблюдаем за существом в естественной для него среде обитания. Находим 3 каких-нибудь как можно более лёгких воздействия на существо, на которые оно откликается чётко различимыми, различными для этих трёх воздействий реакциями. Обозначим эти воздействия буквами A, B, C.
• Приучение к воздействию AB.
  В естественных для существа условиях, когда оно способно к восприятию, применяем к нему воздействие A, а затем через время, достаточное для реагирования на A, применяем воздействие B. В результате, после многократного повторения этих действий, с учётом того, чтобы это обучение не сильно влияло на обычный образ жизни существа, оно должно проявить признаки предвидения и реагировать на A, как будто это B, даже если B не было применено.
• Приучение к воздействию AC.
  Точно также, в естественных для существа условиях многократно применяем к нему воздействие A, а затем С. В результате оно должно приучиться реагировать на A почти как на С.
• Выводы.
  Если в одних и тех же условиях без какого-либо воздействия на среду или на существо оно способно в ответ на воздействие A достаточно устойчиво реагировать одним образом, а после переучивания на то же воздействие A оно реагирует другим чётко различимым от первого образом, то такое существо способно к обучению. Обратите внимание, что отрицательный результат этого теста не говорит о том, что изучаемое существо не имеет способностей. Не так просто подобрать подходящие тестирующие воздействия.

Тест демонстрирует элементарное обучение, "квант обучения". Aplysia имеет примерно 20000 нейронов и проходит тест на способность к обучению. Я не слышал о способности к обучению у гидры. Хорошо бы найти тот минимальный уровень организации нервной системы, при котором способность к обучению уже можно зарегистрировать.

В этом тесте экспериментатор не задаёт поощряющие стимулы.

Стимулом в тесте на способность обучаться является внутреннее "правильное" состояние организма. События B и C являются не стимулами, а объективными воздействиями, которые должны быть предсказаны существом. Оно должно повести себя так, чтобы при этих воздействиях его внутреннее (субъективное) состояние оставалось нормальным (не ухудшилось). При обычном обучении удачный выбор стимула может ускорить обучение, но мы проверяем не качество обучения, а только факт обучения.

На самом деле мотивы поведения существа скрыты от экспериментатора.

Мы теоретически реконструируем эти мотивы, наблюдая поведение. Можно изготовить программу или машину, которая успешно пройдёт этот тест, но больше ни на что не способна. Такая машина исполняет поведение, предусмотренное разработчиком. В частности, многие разработки в области искусственного интеллекта имитируют человеческое поведение.

Но Aplysia самостоятельно изобретает подходящее поведение. Механизм такого изобретения, видимо, не очень сложен, и состоит в том, что Aplysia подбирает такое поведение, которое максимально сохраняет комфортные условия жизни. По наблюдаемому результату поведение жёстко запрограммированной машины и такого простого живого существа, в принципе, похоже. Это не случайно. Примитивное живое существо действительно является "живой машиной", имеющей небольшой, достаточный для выживания, арсенал реакций на воздействия окружающей среды.

Простейший "Алгоритм творчества", видимо состоит в переборе предусмотренных заранее вариантов поведения. Выбор завершается при достижении оптимального значения "целевой функции", то есть при достижении достаточно комфортного ощущения.

Таким образом, поведение существа, обладающего простейшим уровнем сознания, неотличимо от "механического" исполнения программы. Сознание было творческим, а осознавание - активным в процессе самопрограммирования, в то время, когда творческий механизм сознания (самообучения) подбирал и отрабатывал новое поведение. После надёжного приучения к определённой последовательности воздействий, осознавание этой последовательности исчезает и заменяется автоматическим поведением.

Механизм свободы воли

Если выбор поведения не слишком сложен, например, если организм имеет небольшой арсенал возможных реакций, или если необходимые варианты поведения заранее известны, то творческая работа сознания не велика. Жёсткий выбор "if - then - else" - это нулевой уровень сознания, лишённый творчества, свободы выбора и осознавания. Следовательно, в процессе творческого подбора подходящего поведения сознание проявляет ещё и "свободу воли".

Практически выбор решения происходит ассоциативно в зависимости от обстоятельств. При этом "воля" не имеет технического значения. Однако обстоятельства интерпретируются субъективно. Можно подумать и склониться к одному решению. Можно подумать ещё, увидеть в тех же обстоятельствах новые детали, из-за которых эти обстоятельства кажутся другими, такими, что из них следует другое решение. Впечатление о свободе воли возникает потому, что человек помнит, что он мог принять одно или другое решение в объективно одних и тех же условиях, и он свободно принял одно из решений.

Таким образом, "свобода воли" - это одно из проявлений осознавания, заключающееся в том, что одновременно с осознаваемыми действиями мы можем размышлять на другую тему, например, "вспоминать".

У бабочки такой механизм ещё не внедрён. У неё нет различия между обдумыванием и осуществлением её идей - "Что на уме, то и на языке". В этой программе ещё не использован алгоритм "обдумывания без исполнения", которое происходит, если сенсоры и эффекторы автоматически выполняют свою работу, освобождая мозг от детального управления.

Благодаря способности к автоматизации поведения мозг получает возможность развивать свой чисто "ментальный" опыт, то есть думать. Для мозга мысль - это тот же процесс взаимодействия с органами тела, во время которого они не исполняют команды мозга, так как их внимание отвлечено исполнением ранее запущенных автоматических процессов. При достаточно активном неавтоматическом поведении мозг постоянно отвлекается от "мыслей" для осознаваемого управления. Это затрудняет ассоциативное продумывание продолжительных действий. Видимо, поэтому живой организм устроен так, что во время сна многие органы не реагируют на фантазии мозга. Это позволяет проигрывать в уме длительные сценарии и вырабатывать сжатые ассоциативные образы длительных процессов, что в дальнейшем используется для осознаваемого "планирования" поведения. 

Первая и третья персоны

Обычно считается, что идеальное восприятие и материальные процессы несводимы друг к другу. То есть невозможно на основе измерений логически доказать, что человек или другое существо испытывает боль или удовольствие. Сознательное существо, "первая персона", воспринимает свой опыт в виде потока ощущений или потока сознания. Я чувствую боль или удовольствие. Это прямое восприятие абсолютно не связано с тем, догадываюсь ли я о том, что у меня есть нервная система, и прокручиваются ли в ней какие-то алгоритмы.

Конечно, можно набрать статистику и установить, опрашивая испытуемых людей, что им больно, когда количество какого-то гормона в таком-то органе находится в таких-то пределах. А как узнать, испытывает ли боль рыба? Ведь она не может выразить свои ощущения словами.

Поскольку я знаю из опыта, что все люди во многом похожи на меня, то я не сомневаюсь, что и они испытывают боль и удовольствие, хотя их боль абсолютно недоступна моим ощущениям. Я могу только "сочувствовать" им, но не чувствовать эту боль.

Другой сознательный объект, "третья персона" с точки зрения первой персоны, выражает своё сознание через поведение. Отвечающие за поведение физические и информационные механизмы - объективны. Их можно изучать и моделировать. Я могу сочувствовать другому существу только в той мере, в какой я понимаю его поведение. В частности, я не понимаю, что испытывает осьминог. А специалист по осьминогам уже может это понимать. Но и он не может ощущать те же чувства, что и осьминог.

Очеловечивание машин

Мы часто используем слова, обозначающие субъективное, идеальное восприятие, в применении к техническим системам: Word запомнил этот макрос. Я могу обозначить чувственными терминами переменные в программе: "удовольствие" увеличилось на 1, а "чувство удовлетворения" уменьшилось на 30%.

Когда компьютер "вспоминает" файл, он не прикладывает никаких особых субъективных усилий и не осознаёт, что он что-то вспомнил. Это чисто механическая работа, как у хороших часов. Все части правильно пригнаны, и при нажатии на определённые рычажки они выполняют задуманные конструктором действия. Если иногда и происходят непредусмотренные действия, то не потому, что компьютер проявляет свою волю, а потому, что и конструктор, и изготовитель компьютера, и программист, и пользователь - люди, и им свойственно ошибаться.

Компьютер не вспоминает и не принимает решения - эти часто применяемые технические термины относятся к функционированию третьей персоны, а не к субъективному осознаваемому размышлению.

Поэтому, как бы мы не назвали какой-то датчик или переменную в программе - "настоящее удовольствие", "псевдоудовольствие" или "истинное наслаждение" - это ничего не говорит о возможном субъективном восприятии создаваемого искусственного разумного существа. Чтобы убедиться, что оно действительно что-то чувствует, нужны испытания его поведения, такие же, как наблюдения за повадками осьминогов.

Тест осознавания себя

Осознавание себя развивается из осознавания своих ощущений. Я надеюсь, что по некоторым признакам поведения можно доказать, что третья персона осознаёт свои субъективные ощущения, и даже осознаёт себя.

По мере развития сознания его можно характеризовать такими качествами:

Начальное сознание - такой уровень развития нервной системы, который обеспечивает самообучение.

Осознавание (ощущений) - это такой уровень сознания, при котором сознательное существо испытывает субъективные чувства, эмоции, впечатления.

Осознавание себя - это уровень осознавания, при котором сознательное существо субъективно отличает себя от других объектов, а своё поведение от других явлений.

Таким образом, если робот осознаёт себя, значит, он испытывает боль, страх или какие-то свои неизвестные нам чувства.

Персональное осознавание тождественно самому себе. Если я осознаю себя, то мне не требуется "объективное" доказательство этого факта. Тест или специальный эксперимент нужен для доказательства того, что другое существо осознаёт себя.

Конечно, из-за того, что я не сомневаюсь в собственном сознании и без всяких тестов уверен в осознавании себя людьми, подобный тест не вполне объективен. Сам тест может быть проверен только субъективными средствами. Например, я уверен, что мой телевизор не осознаёт себя, а мой друг осознаёт себя. Если тест покажет обратное, то либо он в принципе не годится, либо его надо исправлять. А если тест покажет, что какой-то объект осознаёт себя, то я могу доверять этому результату не более, чем своей уверенности (не подкреплённой строгим логическим доказательством) в том, что мой друг тоже обладает сознанием. Это не снижение уровня доказательства. Напротив, некоторые наши убеждения, например, те, на которых основана формальная логика, обоснованы "более чем логически".

Осознавание себя - это одно из проявлений осознавания своих ощущений и своего поведения. Осознающий своё поведение субъект может обладать одним из субъективных качеств поведения - свободой воли, то есть способностью осознаваемого выбора одного из нескольких равноценных решений.

Свобода воли имеет и объективное, и субъективное объяснения, что можно использовать для построения теста, логически связывающего наблюдаемое поведение с субъективным впечатлением. Субъективное восприятие свободы воли относится к первой персоне, к субъекту, который чувствует, что он свободно принимает решения. А объективный механизм ассоциативного выбора решения, обеспечивающий свободу воли, действует в третьей персоне. Его можно изучать и перепроверять как научный факт.

Объективно выбор решения не зависит от наличия сознания и "воли". Он происходит ассоциативно в зависимости от обстоятельств. Можно подумать и склониться к одному решению. В результате размышления можно увидеть в тех же обстоятельствах новые детали, из-за которых эти обстоятельства кажутся другими, такими, что из них следует другое решение. Таким образом, выбор решения жёстко связан с текущими ассоциациями. А за субъективным процессом размышления лежит объективный механизм "ассоциативного блуждания", нахождения то одних, то других ассоциативных связей между текущими обстоятельствами и хранимым в памяти прежним опытом субъекта.

Впечатление о свободе воли возникает потому, что человек помнит (думает, размышляет) о том, что он мог принять одно или другое решение в объективно одних и тех же условиях, и он свободно принял одно из решений. При этом как выполнение принятого решения, так и размышление о других возможных решениях являются одновременными и осознаваемыми.

Заметим, что автоматические или рефлекторные действия, например, выделение желудочного сока, не осознаваемы и не приводят к формированию впечатления о свободе воли.

Итак, свобода воли - это часть и явный признак осознавания. Признаком наличия свободы воли является способность одновременно с каким-то неавтоматическим действием размышлять "на другую тему".

Размышление - это проигрывание в уме каких-то реальных или вымышленных действий. У человека эти действия наполнены смыслом, так как в них используются ёмкие символы действия - слова. У животных в "размышлениях" могут участвовать зрительные, обонятельные или другие образы. Поскольку сами размышления не наблюдаемы, то нам требуется какой-то наблюдаемый индикатор размышления, то есть индикатор внутренней ассоциативной работы "на другую тему". Таким индикатором может быть не только речь, но и любое неавтоматическое действие, которое не имеет обязательной логической связи с первым действием.

Таким образом, способность выполнять одновременно два неавтоматических (нерефлекторных) и логически не связанных друг с другом действия является достаточным признаком свободы воли и, следовательно, сознания, осознавания (своих ощущений) и осознавания себя.

Можно изготовить робота, который будет выполнять два действия - идти и петь. Но если я проведу дополнительные испытания, подставлю роботу подножку, и он упадёт и будет продолжать петь, то я сделаю вывод, что его "пение" происходит автоматически. Значит, я не могу сделать вывод, что этот робот обладает сознанием.

То, что действия не являются автоматическими, требуется доказывать.

В этих рассуждениях слово "действие" можно понимать обобщённо, как активное или пассивное взаимодействие с окружающим миром.

Кошка лежит у меня на коленях и испытывает (неавтоматическое) удовольствие от общения с хозяином. Она не пойдёт на колени к кому попало. Одновременно она наблюдает за рыбками в аквариуме. Никакие рыбки и аквариумы не могли быть зашиты в сознание кошки генетически. Значит, это наблюдение тоже не автоматическое. Следовательно, кошка обладает свободой воли, осознаёт то, что она воспринимает, и осознаёт себя.

То, что это удовольствие и наблюдение не являются чисто рефлекторными автоматическими процессами должно быть доказано, а это не так просто сделать. Чтобы уменьшить возможность субъективной интерпретации, лучше делать выводы на основе более убедительных активных действий.

Обезьяна с криком убегает от пантеры. Этот крик выражает не только страх. Это примитивная речь, сигнал, сообщающий другим обезьянам этой стаи, что им угрожает пантера. Это не генетический безусловный рефлекс. Обезьяна обучилась языку в своей стае. В других стаях той же породы обезьян сообщение о пантере звучит иначе. Убегает она тоже не совсем "рефлекторно". Это хорошо натренированные действия, которым она научилась в играх и в реальной жизни, а не была способна от рождения. Хотя крик логически связан с убеганием, но я считаю, что обезьяна могла бы убегать и молча, как поступает большинство зверей. Если в другой ситуации, когда обезьяна знает, что никто её не услышит, она (иногда) убегает молча, то это доказывает, что этот крик-сигнал является независимым действием со специальной "социальной" целью. Следовательно, эта обезьяна осознает себя.

Рыбка, увидев тень птицы, плывёт в свою норку под камень. При этом она дрожит, "подзывая мальков". Укрытие в норке - это не совсем автоматическое действие. Она научилась хорошо ориентироваться вблизи норки благодаря своей способности к обучению. Рельеф дна, расположение камней и растений не могли быть генетически запрограммированы. А дрожание "от страха" - это безусловный рефлекс. Из этого примера нельзя заключить, что рыба осознаёт себя. Хотя из того, что она способна к самообучению, следует, что она обладает сознанием.

Можно поставить специальный эксперимент, в котором эта же рыба должна одновременно выполнять два "выученных" действия, которые при обучении не были ассоциированы друг с другом. Если это получится, то придётся признать, что у неё есть свобода воли и осознавание, хотя бы и в небольшой степени.

Постановку эксперимента в общем виде можно представить как последовательность обучений с заключительным испытанием, подобно тому, как выполняется эксперимент по проверке способности к самообучению.

Это испытание можно применить и к машине, претендующей на обладание сознанием.

Итак, если объект обладает сознанием, то есть способен обучаться, и может одновременно выполнять два логически не связанных сознательных действия, то из этого следует, что у него есть субъективно воспринимаемая им свобода воли, а, значит, и осознавание себя и субъективные ощущения.

Применение теста к человеку

Если я не помню какого-то эпизода из своей жизни, когда мне было 20 лет, то это не значит, что тогда я не осознавал себя. Если я не помню подробностей первой недели своей жизни, то я не могу утверждать, что тогда я не осознавал себя. Значит, я не могу быть уверен, что я не осознавал себя и за 4.5 месяца до моего рождения.

Конечно, я не могу вернуться в прошлое, но если меня интересует вопрос о том, осознавал ли я себя в возрасте 1 неделя, то можно попробовать протестировать других младенцев. Если тест надёжный, то я узнаю что-то интересное о себе, так как, в принципе, я от них ничем не отличался.

Благодаря свободе своей воли человек может и не захотеть участвовать в этом тесте. Поэтому неудачный результат теста не доказывает отсутствия свободы воли.

Порядок исполнения теста на осознавание

Сначала подбираем стимулы и реакции. Доказываем, что эти реакции выполняются одним сознательным мотором, то есть, что перед нами одно существо. Это нужно потому, что два сознательных существа легко могут выполнять два сознательных действия одновременно. Но при этом каждое из них может быть не осознающим. Далее, доказываем, что это существо способно переучиваться и отвечать по-разному на одни и те же стимулы. И, наконец, доказываем, что оно может выполнять два сознательных действия одновременно.

Первый тест на самообучение.

1. Находим такие 4 воздействия A, B, C, D, на которые существо отвечает заметными и различающимися реакциями a, b, c, d. Хотя бы две из этих реакций физически могут выполняться одновременно. Пусть это будут реакции a и b.
2. Приучаем существо к событию CA, так, что на C оно реагирует как на A (предвидит A). Обозначим результат обучения словами "из C следует a".
3. Приучаем существо к событию CB, так, что из C следует b.
4. Если этот тест на самообучение проходит, следовательно, на входные стимулы A, B, C реагирует одно сознательное существо.

   Второй тест на самообучение.

5. Приучаем существо к событию DA, так, что из D следует a.
6. Приучаем существо к событию DB, так, что из D следует b.
7. Если это удаётся, то этим доказано, что все входы A, B, C, D воспринимаются одним сознательным существом, и все 4 выходных реакции исполняются этим же существом.

   Проверка выполнения двух сознательных действий.

8. Вновь приучаем существо к событию CA, так, что из C следует a.
9. Подаём одновременные стимулы C и D и получаем одновременные реакции a и b.
10. Этим доказано наличие двух одновременных осознаваемых процессов в одном процессоре, что является признаком наличия субъективной свободы воли. Следовательно, это существо осознаёт себя и свои ощущения.

Человек легко проходит этот тест. Причём для обучения ему не требуется ни одного повтора пар событий. Достаточно сказать, как себя нужно вести. Но человек может и не захотеть исполнять всё, что ему говорят. Неудачный результат теста не доказывает отсутствия осознавания себя.

Пример с курицей

Я не держу кур. Это чисто умозрительный пример. Он может содержать ошибочные описания признаков поведения, которые совсем не характерны для курицы. Возможно, когда-нибудь я придумаю другой, более реалистичный пример. А ещё лучше, если кто-нибудь вспомнит что-то похожее из реального поведения животных.

1. Пусть в начале уже освоенные пары стимул-реакция таковы:
   Aa: По команде "цып-цып-цып" (команда A) курица идёт к хозяйке (реакция a).
   Bb: На курицу капает (брызгает) вода, и она хлопает крыльями.
   Cc: На курицу сыплются песчинки (зёрнышки), и она начинает искать зёрнышки (клюёт).
   Dd: Перед курицей разрыхляют землю (граблями), и она ищет червячков (разгребает землю лапами).
2. Ca. Обучаем курицу новому поведению: На курицу сыплют песчинки, и она идёт к хозяйке.
3. Cb. На курицу сыплют песчинки, и она машет крыльями.
4. Я думаю, что этот этап курица пройдёт. Значит, она способна к обучению и у неё есть сознание. Эти песчинки - неуклюжий пример. Наверно, есть более естественный стимул, на который курица сможет отвечать по-разному, в результате переучивания.
5. Da. Перед курицей разрыхляют землю, и курица идёт к хозяйке.
6. Db. Перед курицей разрыхляют землю, и она хлопает крыльями.
7. Успешный результат доказывает, что все четыре стимула обрабатываются одним "нейронным процессором", и по всем четырём каналам курица может переучиваться.
8. Ca. На курицу сыплют песчинки, и она идёт к хозяйке.
9. CDab. Перед курицей разрыхляют землю и одновременно на неё сыплют песчинки. Она должна идти к хозяйке и при этом хлопать крыльями.

Если у курицы действительно есть свобода воли, то она не всегда будет исполнять то, что "должна". Тест признаётся успешным, если испытуемое существо проходит его хотя бы иногда. (О пространственной ориентации у курицы  )

Можно симулировать глупость, но не ум.

В этом "тесте на осознавание" я пытаюсь доказать, что субъективное осознавание связано с наблюдаемым поведением при специально организованном переучивании. Если это так, то получается, что нельзя имитировать осознавание себя. Если "имитирующий" робот проходит этот тест, то он действительно осознаёт себя и имеет эмоции.

Безусловные рефлексы

Какие-то "достоверные" знания и умения даны существу от рождения. Какова природа первичных навыков? Как существо может получить их без обучения? В течение развития зародыша все его органы приобретают определённую форму и структуру. С самого начала глаза уже настроены видеть, а рука - хватать. Эти первичные функции можно назвать безусловными инстинктами. Возможно и мозг имеет некоторые безусловные инстинкты, то есть жизненно необходимые знания. Если они оказываются полезными, то такая особь с большей вероятностью выживет и даст потомство. Кроме этого, мозг способен к самообучению. Если эта способность достаточно развита, то особь будет быстрее адаптироваться к окружающим условиям, и вероятность выживания тоже возрастает. Вообще-то все органы, имеющие нервную систему, могут переучиваться. Но мозг делает это лучше.

Обычно слова "врождённые рефлексы" относятся к моторной (мышечной) системе. Телёнок от рождения умеет стоять. Может быть, и мозг имеет врождённые рефлексы, но в отличие от других органов, они ему не требуются. Во-первых, потому что он не имеет прямой связи с объектным миром и, во-вторых, потому что он может всему научиться.

Например, не все детали поведения бабочки, которая ищет другую бабочку по запаху, могли быть предусмотрены генетически потому, что окружающий мир содержит больше информации, чем любая генетическая структура. Для такого поиска требуется координация всех систем организма, а этим заведует мозг. Мозг вынужден (и способен) обучиться управлять системами организма, чтобы удовлетворить его врождённые потребности. Врождённым является не сложное поведение во всех деталях, а биологические, жизненно важные потребности организма. Вместе с тем, поведение и ощущения, исходящее не от мозга, а от органов, могут быть врождёнными. Например, особый запах другой бабочки является привлекательным и без обучения.

Правильные первичные инстинкты закрепляются путём естественного отбора. Бабочка ищет по запаху другую бабочку. Не найдёт - у неё не будет потомства. Учителем оказывается естественный отбор. Эти первичные знания имеют жизненно важный, проверенный тысячелетиями смысл. На эти твёрдые знания вполне могут опираться последующие смыслы и логические умозаключения, возникающие при обучении и при творческой работе.

Безусловные рефлексы и жизненно важные биологические потребности лежат в основании иерархии смыслов, которая развивается у воспринимающего существа по мере накопления жизненного опыта.

Смысл объектов

Если самообучающаяся система преднамеренно создана с нулевыми знаниями, то она сначала не может выделить никаких объектов из своих ощущений. Эта способность развивается по мере накопления опыта.

Рассмотрим множество всех мыслимых объектов, которые представляют собой "формы сознания". Некоторые из них отражают реальные объекты, некоторые - это чистые формы сознания, некоторые - формы подсознания. Это множество содержит всё, что представимо внутренними средствами нервной системы.

ЦНС и просто нервная система - это единая система организма, поддерживающая обработку информационных потоков для обеспечения работы сознания. Различные "формы сознания" обрабатываются едиными средствами. Отдельный нейрон не может знать общего процесса, в котором он участвует. Поэтому для нервной системы нет разницы между неосознаваемыми и осознаваемыми формами. Но для нас такая разница есть. Почему мы осознаём некоторые "мыслимые объекты" и не осознаём другие? Например, я осознаю то, что вижу, но не осознаю, какой гормон надо бы дополнительно выработать в моём организме. Хотя оба информационных процесса на нейронном уровне равноправны и обслуживаются одной и той же нервной системой.

Мы осознаём те объекты, восприятие которых не автоматизировано, и которые объективно представимы, то есть имеют прочную связь с ощущениями. То есть мы можем осознавать объекты, представимые в звуках, запахах, и т.п. И наоборот, если объект не выражается через ощущения, то такой объект не может стать осознаваемым.

Из разделения форм сознания на "представимые" и "не представимые" через ощущения следует, что любое существо, имеющее ассоциативную память и неавтоматические (готовые к неожиданным изменениям) ощущения, осознаёт то, что оно ощущает. Конечно, уровень этого осознавания зависит от развитости сознания.

Каждый мыслимый объект ассоциативно связан с другими такими объектами. Все связи одного объекта образуют его смысл. Этот смысл определяет место объекта среди других объектов и способ, как этот объект используется в нервном информационном процессе. Но если какой-то объект не имеет прямых или достаточно прочных связей с ощущениями, то этот объект не осознаваем. Он может равноправно участвовать в нервном информационном процессе и иметь смысл для мозга, но он не имеет осознаваемого смысла. Если и можно говорить о смыслах на подсознательном уровне, то они тоже формируются механизмом сознания, а не присущи самим природным объектам.

Мыслимый объект, не имеющий связей с другими объектами, полностью лишён смысла, то есть он не воспринимается как объект и вообще не опознаётся ни сознательно, ни подсознательно. В частности, он не может быть использован, так как с ним невозможно установить ассоциацию. Можно считать, что такой объект не существует для нервного информационного процесса. А если мыслимый объект по какой-то причине теряет ассоциативные связи с другими объектами, то он исчезает как форма сознания - забывается.

Следовательно, множество мыслимых объектов вместе с их взаимосвязями есть одни ассоциативные взаимосвязи. Мыслимый объект, как узел паутины смыслов, не имеет структуры и не имеет никакого содержания сам по себе. Моя бабочка не хранит в памяти образы "объектов", которые она воспринимает. Она хранит только динамические потоки ощущений и ассоциативные связи между ними.

Поэтому, если какое-то существо начинает развиваться от нулевых знаний и не имеет никаких "генетически зашитых" смыслов (потребностей, безусловных рефлексов), то никакие новые смыслы не могут возникнуть. Им не на что нарастать.

А если существо от рождения имеет потребности, то оно может выращивать своё дерево смыслов по мере накопления опыта, который "вплетает" информацию о внешнем мире в уже существующую смысловую сеть и развивает её. Чем лучше развиты средства взаимодействия с окружающим миром, то есть, чем шире диапазон объективной представимости, тем выше уровень осознавания этого мира.

Самообучение

Скорость обучения - это простое и конструктивное испытание интеллекта, которое можно использовать в качестве теста уровня сознания живого существа или машины. Однако способности существа лучше характеризуются скоростью самообучения, чем скоростью обучения, которая зависит от активности учителя и от способа обучения. Трудно вычесть влияние учителя, если мы сравниваем способности, например, осьминога и вороны.

Как происходит самообучение

• Существо замечает, что некоторое обстоятельство важно.
• Если "понравилось", то существо пытается повторить эту ситуацию.
• При повторении ситуации существо пытается подобрать более выгодное поведение.
• В результате оно использует обнаруженный факт довольно успешно.

Ключевое различие между обучением и самообучением состоит в способе выработки поведения. При обучении учитель показывает или прямо стимулирует правильное поведение. Он ставит оценку именно за элементы поведения, то есть за промежуточные этапы работы. Обучая детей, роботов и нейронные сети мы применяем промежуточные оценки за каждый успех или неудачу. При этом только учитель способен оценить эффективность каждого этапа обучения.

При самообучении существо само изобретает правильное поведение, получая "стимул" (пища, избежание опасности) только за конечный результат. Между правильным поведением и "стимулом" имеется логическая причинная связь, которая обычно далеко не очевидна. Решение проблемы "За что именно был получен стимул" - одна из основных задач механизма сознания.

Я оцениваю качество моих "разумных" алгоритмов по скорости их самообучения в некоторых стандартных задачах. Интересно было бы сравнить разные алгоритмы с животными в похожих тестах. Где сейчас находится мой алгоритм сознания? Между гидрой и улиткой, или между муравьём и бабочкой?

Самообучающаяся бабочка

Сейчас у меня есть простейшая демонстрация адаптирующегося искусственного интеллекта, которая способна впечатлить пока только тех, кто понимает. Это программа tmpbrain.zip для Windows.

Программа показывает маленький мир, в котором живут бабочка и цветок. Бабочка специально сделана настолько простой, как только я смог себе представить. Она имеет чувства (органы чувств), моторную систему (органы действий) и мозг.

Органы бабочки

• Чувство цветка, или желание. Wish=0 означает, что желание удовлетворено. Бабочка ощущает это при помощи специального органа, когда она касается цветка. Wish=1 означает, что бабочка имеет желание.
• Зрение определяет, с какой из четырёх сторон света находится цветок. При помощи зрения бабочка чувствует одно из четырёх качеств, которые позже ассоциируются у неё с направлениями к цветку. Номера направлений используются мозгом как четыре не связанных друг с другом качества, которые первоначально не имеют смысла.
• Движение. Моторная система интерпретирует выработанный мозгом сигнал, как команду двигаться в одном из четырёх направлений. Только моторная система "знает", что это за направления, и как нужно двигаться.
• Мозг получает сигналы от органов чувств (сенсоров) и подаёт сигналы моторной системе. Единственный сигнал, имеющий смысл для мозга, это "желание". Мозг пытается выработать такой выходной сигнал, чтобы удовлетворить желание.

Движение бабочки довольно медленное и хаотичное. Но правильная ориентация в пространстве развивается у неё достаточно быстро. Постепенно она начинает двигаеться менее случайно, и почти в правильном направлении. Она принимает решение об этом направлении ассоциативно, на основании своего предшествующего опыта.

Я догадываюсь, судя по отзывам на мою статью " Основы натуральной философии ", что поначалу очень трудно оценить высокую степень абстракции используемого алгоритма. Но и живой мозг, и живые органы чувств, по-моему, тоже гораздо более абстрактны (то есть, более универсальны), чем многие думают, и готовы от рождения к жизни в любом мире. Именно это усиливает сознание организма. Никакие цели, желания и стремления не присущи мозгу изначально. Это машина, способная только на творчество, то есть на поиск и проработку "поведения".

В моей модели ощущение, поведение и желание - одинаково слепые информационные потоки для неопытного мозга. Когда я говорю, что мозг ищет правильное поведение, это означает, что он пытается изменить данные во всех информационных потоках, чтобы "предсказать" удовлетворение желания. Мозг не отличает "объективных" данных от созданных им самим "субъективных". Но организм-хозяин только некоторые потоки использует, как "поведение", в то время как другие потоки информации являются "ощущениями", неподконтрольными командам мозга. Абстрактный мозг не знает, что эти потоки чем-то отличаются и что некоторые из них являются "входящими", а некоторые "исходящими" для организма.

"Желание" имеет биологическую аналогию. Я думаю, что живой мозг получает часть информации по нервным волокнам, а часть - из биохимического состояния организма. Последнее и моделируется сигналом "Желание". Оно зависит от биохимического (и эмоционального) состояния (самочувствия) организма. Такое "химическое желание" имеет предопределённый смысл для мозга. Алгоритмически, этот смысл состоит в том, что мозг лучше запоминает своё состояние когда желание удовлетворено. Другие сигналы имеют чисто информационный смысл. Бабочка чувствует себя плохо (желание не удовлетворено), и на основании прежнего опыта она выбирает (то есть вспоминает) такое поведение, в результате которого она будет чувствовать себя хорошо (желание удовлетворено).

Когда вы запускаете программу, бабочка не имеет опыта. Её зрение (но не мозг) видит цветок, так как оно устроено, чтобы видеть. Её моторная система устроена так, что она может перемещать "тело" бабочки в одном из четырёх направлений. Мозг "не понимает", что бабочка чувствует себя плохо, так как она ещё ни разу не касалась цветка и "чувство цветка" не вырабатывало "гормоны удовольствия", способствующие запоминанию.

Ассоциация стимула с поведением создаёт условный рефлекс.

Вначале мозг (единственный творческий мотор в бабочке) не имеет цели, намерений, стремлений. Он не понимает, что бабочка видит цветок, и что это означает. Он не понимает, что может двигаться и может чувствовать себя хорошо. Цветок абсолютно не привлекает внимания неопытного существа. Он начинает привлекать внимание только по мере накопления опыта. Через некоторое время, после десятков случайных касаний цветка, у бабочки возникает условный рефлекс на вид цветка. Бабочка видит цветок и понимает, что нужно делать, чтобы получить удовольствие. Она приобретает цель, которая представляет собой желание плюс способ его удовлетворения.

Я думаю, что сложность и богатство целей живого существа развиваются из богатства условий окружающего мира по мере того, как это существо периодически удовлетворяет свои простые желания. Чем богаче чувства и желания, тем разумнее поведение. Я думаю, что живая бабочка имеет более развитые органы чувств и более слабый мозг, чем моя кибер-бабочка.

Механизм предвидения

Прогноз возможен только путём "воспоминаний"

Большинство природных явлений могут быть описаны в виде физических моделей, содержащих дифференциальные уравнения. "То, что произойдёт в ближайшие секунды" рассчитывается из этих уравнений. Но мозг и отдельные нейроны не могут использовать предопределённые уравнения для предвидения, поскольку биологически одинаковые нейроны должны уметь предвидеть события различной физической природы. Единственный способ такого "универсального" предвидения, на который способны нейроны – это "воспоминание о своих прежних впечатлениях". Это похоже на "решение" уравнений по таблицам. Этот способ гораздо хуже и слишком конкретный по сравнению с решением уравнений. Но другого не дано.

Поэтому простейший природный механизм самообучения использует "индукцию", то есть непроизвольное обнаружение аналогий и повторов при сравнении своих текущих ощущений с образами ощущений, сохранёнными в ассоциативной памяти. Ассоциативное узнавание приводит также к самоорганизации повторяющегося опыта в виде причинно-связанных цепочек событий. Предвидение происходит потому, что существо узнаёт не "текущее состояние", а текущий процесс в динамике. "Ближайшее будущее" ассоциативно связано с текущим состоянием потому, что, как это состояние, так и его будущее, имеют их причинно связанные аналоги в прошлом. Ближайшее будущее - это будущее узнаваемого прошлого события.

Нейрон должен обладать творчеством и успешно работать в команде

Способность к обучению обеспечивается нервной системой. Поскольку число нейронов у разных существ может отличаться в миллионы раз, приходится признать, что способностью к обучению, видимо, обладает структура из любого количества нейронов, и даже один нейрон. Значит, каждый нейрон должен обладать способностью к предвидению и к самообучению. Хотя, может быть, зарегистрировать эту способность у одиночного нейрона почти невозможно. Кроме того, нейроны в нервной системе и в мозгу организованы так, что потенциал адаптации увеличивается при увеличении количества нейронов. Также должны быть организованы искусственные нейронные структуры.

Определение творчества

Творчество – это решение задач, способ решения которых неизвестен. Конечно, ту часть задачи, для решения которой имеются известные методы, можно решить и без творчества. Но та часть задачи, к которой даже неизвестно как подступиться, может быть решена только путём случайной догадки.

Творчество - это способность получения новых результатов без учителя, то есть путём самообучения. При решении творческой задачи, то есть такой, которую неизвестно как решать, творец делает разные (случайные или осмысленные) попытки решения в окрестности того, что ему известно. Благодаря его заинтересованности он более чем другие способен оценить, что какая-то из попыток приближает его к решению задачи. После этого происходит исследование вновь открывшихся возможностей. И так далее. Если творец ошибся в самооценке, то он может зайти в тупик и не решить задачу. Не каждому везёт.

В этом случае учителем является сознание, которое оценивает и выбирает варианты, достойные более детального изучения. Такое самоконтролируемое обучение похоже не на броуновское блуждание, а на поиск максимума методом последовательного подъёма в случайных направлениях.

Простейшее самообучение похоже на естественный отбор поведений, а осознаваемое творчество похоже на искусственный отбор идей.

Примитивный случайный поиск

Новое поведение находится путём случайного поиска в окрестности уже освоенного поведения.

Случайный поиск исключительно неэффективен. Максимум, что можно ещё пытаться угадать - это информация из нескольких бит. Уже 10 бит, то есть тысяча равноправных вариантов – много даже для человека. Поэтому поиск нового должен происходить на фоне уже освоенного и известного. Причём это новое должно быть минимально информационно насыщенно (минимально содержательно). После успешного нахождения "новых бит" и согласования их с имеющимися знаниями, они включаются в "освоенные" знания. И далее поиск нового продолжается такими же мельчайшими шажками.

Для оценки скорости самообучения при случайном подборе поведения рассмотрим обучение таблицы перекодировки. Таблица содержит N ячеек, то есть она способна запомнить реакцию на N входных сигналов. Внешняя среда может обеспечить N разных входных сигналов, причём каждому сигналу соответствует одна правильная реакция таблицы в виде числа от 1 до N. Входные сигналы меняются случайно. Реакция является случайной (1 - N), если ответ не известен. Реакция запоминается, если за неё дана положительная оценка.

При таких условиях вероятность того, что на случайный входной сигнал будет случайно дан правильный ответ равна 1/N. Средняя степень обучения (то есть, почти на каждый входной сигнал найден правильный ответ) будет достигнута за N² шагов. Если вход имеет ширину 64 бита, то N² = 2¹²⁸ = 10⁴⁰. Самообучение всегда слишком долгое, а в данном примере, оно невозможно.

Такое "универсальное" самообучение технически бесперспективно. Вместо него применяется обучение искусственных систем учителем (супервизором). Учитель может вести систему “за ручку” по правильному пути. При этом она не может научиться находить путь, но будет знать, какой путь правильный. А если учитель ещё и показывает правильное поведение (принуждает систему вести себя правильно) и поощряет такое поведение, то скорость обучения значительно возрастает.

Однако в жизни самообучение – обычное дело, особенно у простейших животных, а следовательно, и у простейших нейронных структур. Мозг не мог знать до рождения, в каком мире он окажется. В отличие от "физических" органов чувств, "информационный" мозг вообще не имеет прямого контакта с физическим миром. Но, тем не менее, кошка сумеет выжить, даже если она ни разу в жизни не увидит мышку. Мозг достаточно абстрактен и универсален, чтобы приспособиться к любым окружающим условиям. Как он обучается? Также как дети, испытывая разные варианты поведения в окрестностях уже освоенных. Вследствие универсальности мозгу запрещено использовать такие конкретные информационные инструменты, как "уравнения", "правила" и "семантический разбор".

Поиск поведения

Живая адаптирующаяся система должна всегда учиться. Она может считать, что знает правильное поведение, но должна беспрестанно доказывать, что это поведение действительно правильное, потому что внешний мир может измениться. Такое самообучение может происходить подсознательно (быть неосознаваемым). Именно в этом постоянном самообучении и состоит обычная работа сознания как биологического адаптивного механизма.

Управляя согласованным поведением жизненно важных систем организма, механизм сознания постоянно тестирует сам себя. Выживание данного существа (и выживание его сознания) зависит от правильной работы этих систем. Самотестирование служит для сдерживания творческого "полёта фантазии", который может расстроить систему управления. Поэтому человек, делающий работающие, логически непротиворечивые вещи, более способен к логичным рассуждениям, чем человек, создающий "нематериальные" творения. А бездельник вообще не может быть рассудительным. Между внутренним миром творца и бездельника такая же разница, как между внутренним миром человека и животного.

В процессе такого самотестирования мозг постоянно требует оценок своего поведения. Если мозг не получает оценок от внешнего мира за свое хорошее или плохое поведение, то он со временем теряет способность думать и управлять телом. Это происходит потому, что механизм случайного подбора поведения продолжает действовать и поведение (мозга), не закрепляемое оценкой, всё больше отличается от освоенного ранее, правильного с точки зрения жизнеобеспечения организма.

Мозг голого философа не получает оценок от внешнего мира за свое хорошее или плохое поведение. Поэтому спонтанные изменения свойств нейронов (это и есть простейший механизм творчества) постепенно приводят к жизненно опасным изменениям поведения мозга. Философ теряет разум.

И напротив, постоянный творческий поиск, сопровождаемый "объективной" оценкой поведения, укрепляет сознание. Бабочка "начинает понимать", то есть начинает поступать правильно в той ситуации, в которой она раньше не знала, что делать, и поступала неправильно. В приложении к более разумному существу и к некоторому виду задач мы бы могли назвать такой процесс накоплением опыта путём успешного "исследования".

Биологические мотивы творчества

Не только учитель воздействует на ученика с определенной целью, но и наоборот, ученик на учителя. Целью ученика является получение хорошей оценки. Если же обучение происходит без заинтересованности ученика, то это не ученик, а база данных, например, словарь или шахматная программа. Зачем и что нужно учить ученику, если у него нет никакого внутреннего направляющего стремления?

Может показаться, что на начальном этапе, пока интеллект ещё не развит или задача слишком новая, обучение может происходить без заинтересованности. Такое "незаинтересованное" привыкание существа к изменяющемуся внешнему миру происходит не бессознательно, так как именно сознание управляет адаптацией. При привыкании приходится приучаться к новому, полезному в новых условиях поведению.

Например, крысу приучают нажимать на педаль после звонка. Она не была заинтересована в нажимании на педаль, но она всегда имеет внутренний "интерес". Её интерес заключается в поддержании "нормальных" собственных ощущений. Эти ощущения являются субъективными и самоценными только для этой крысы. Но они же объективно даны ей природой как врождённые потребности.

Привыкание, адаптация или самообучение без постоянного стимулирования (без заинтересованности в самом процессе учёбы) похожи на естественный отбор, а обучение с учителем - на искусственный. Учитель выбирает и поощряет только правильные реакции ученика на заданные условия. Поскольку причинная связь между действиями ученика и поощрением хорошо заметна, такое умышленное обучение происходит гораздо быстрее, чем самообучение. При самообучении ученику приходится самостоятельно выявлять весьма сложные причинные зависимости между его поведением и полезным (для ученика) результатом.

Итак, биологическим стимулом для творчества является жизненно важная оценка. Если эту оценку даёт учитель, то скорость обучения возрастает. Если оценка "даётся" внешней средой, то она может быть и негарантированной, и сильно отложенной во времени. Внутренний механизм самообучения должен установить причинную связь между действиями существа и такой ненадёжной, но беспристрастной оценкой.

Мы считаем разумным или "целесообразным" такое поведение, которое удовлетворяет внутренние потребности организма. Эти потребности заданы биологически, но без правил или намёков на то, как их удовлетворить. Поскольку это не мои потребности, то я не всегда могу оценить разумность поведения того или другого существа.

Разум кибер-бабочки

Разумность поведения моей бабочки доступна моему пониманию, потому что я детально знаю её внутренние потребности. Сначала у неё нет картины мира. В её памяти хранятся случайные данные, настолько не похожие на мир, в который она попадает, что этот мир не вызывает у неё никаких надёжных ассоциаций. У бабочки нет представлений о логике, пространстве или времени. Всё это появляется в результате реального опыта. По мере накопления опыта она начинать узнавать разные ситуации, в которых она оказывается: как это было раньше, и как она поступала раньше. Она выбирает из прежнего опыта более успешное поведение. Все возможные "идеи" бабочки представимы только в виде наблюдавшихся ранее образов или их фрагментов. Бабочка не имеет никаких отвлечённых от опыта средств преставления своих "мыслей".

Самообучение и творчество бабочки состоит в том, что полезный опыт накапливается и на его фоне происходит постоянный случайный поиск нового поведения.

Случайность, приводящую к обнаружению нового поведения, можно трактовать, как неудачную попытку точно повторить то поведение, которое бабочка считает успешным, или как неточное воспроизведение успешного прежнего поведения. Оба варианта могут быть следствиями как случайных нарушений в памяти, так и неточного узнавания текущей ситуации.

Тестовая задача о "бабочке и цветке" демонстрирует не какой-то изысканный или очень эффективный алгоритм сознания, а принципиальную возможность нахождения правильного "разумного" поведения только на основе неясного внутреннего желания произвольной природы. Если через некоторое время вы заметите, что вероятность попадания бабочки на цветок больше, чем вероятность попадания в какую-то определённую назначенную вами другую точку окна, то это и означает, что бабочка уже узнаёт цветок, и стремится к нему, то есть, она ориентируется в пространстве.

Если сделать окно сразу большим, то, вероятно, бабочка никогда не научится находить цветок, так как будет мало случайного успешного опыта. Но может случайно повезти.

От чего зависит скорость обучения в этом примере? От успешного опыта. Можно помогать бабочке учиться, например, подставляя цветок с нужной стороны, чтобы она постепенно освоила весь необходимый набор движений. Но учтите, что способности бабочки ограничены. Она может достичь максимально возможного для неё мастерства в течение нескольких минут. И дальнейшее обучение больше ничего не даст. А можно ей вредить. И она никогда не научится.

Мозг живой бабочки, как и мозг кибер-бабочки "стремится повторить успех". Живая бабочка летит к цветку, потому что её привлекает запах. Этот запах ей нравится от рождения. Поэтому я не могу уверенно сказать, что она сознательно стремится к цветку. Во всяком случае, её сознанию каждую секунду помогает безусловный рефлекс на запах.

В рассмотренной тестовой задаче нет никаких прямых "физических" воздействий (вроде запаха) со стороны цветка на бабочку. Она не испытывает удовольствия от того, что видит цветок. Она летит к нему потому, что из своего опыта она знает, что получит удовольствие, когда коснётся цветка. Её привлекает не запах и даже не вид цветка, а знание (идея, понимание) того, что правильное поведение завершится удовольствием . Это чисто интеллектуальное стремление или условный рефлекс. Она сознательно стремится коснуться цветка, потому что использованный алгоритм не предусматривает автоматизации поведения. Эта бабочка осознаёт то, что она видит.

Совершенно правильные движения бабочки не приводят к немедленному успеху, так как требуется преодолеть некоторое расстояние до цветка, а бабочка не имеет органа восприятия расстояния. "Вид цветка" никак не изменяется по мере приближения к нему. Поэтому бабочка испытывает неуверенность. Кажется, что она делает "неоправданно" много случайных попыток улучшить своё поведение, которое, в результате, становится похожим на панику. "Кто мало видел - много плачет".

От смутного желания к осознаванию себя

Вообще-то можно построить систему, имитирующую разумное поведение, но не имеющую внутреннего мотива к поиску такого поведения. Пусть эффекторы точно исполняют поступающие от мозга команды. Если их поведение не устраивает разработчика, то происходит перекоммутация входных и выходных каналов, другие настройки мозга. Обычно, например, в практике нейронных сетей, эти настройки называют обучением. В такой системе ни мозг, ни отдельные нейроны или органы чувств не обладают самостоятельным творчеством или свободой выбора поведения. Поведение, как выходной сигнал, строго ассоциировано с входными данными. После обучения такая система представляет собой автомат, имитирующий разумное (с точки зрения человека) поведение. Хотя прогноз наблюдения не требуется, но он может использоваться для автоматизации процесса обучения.

Перед прогнозирующим механизмом системы можно поставить задачу получения не правильного прогноза, а определённого прогноза. Это выглядит так, будто сенсоры "стремятся" почувствовать что-то определённое. Для этого обучающий механизм, например, алгоритм перекоммутации межнейронных связей, должен иметь возможность и средства для синтеза нового поведения, которое обеспечит достижение этих определённых чувств. Только такой выгодный для системы субъективный прогноз может сделать её творческой и сознательной.

Чтобы система не распалась на отдельные "осознающие себя" подсистемы, все её средства прогнозирования и подбора поведения должны стремиться к общей цели: обеспечить "выгодный" прогноз определёнными сенсорами. Выгодный прогноз – это предвидение определённой положительной оценки (ощущения), которая присуща системе от природы или предусмотрена разработчиком. Творческая прогнозирующая система подчиняется этой задаче в ущерб объективному прогнозу. Такая система стремится повторить (правильно "предвидеть") своё успешное поведение, и выполняет небольшой случайный поиск нового поведения на фоне этого уже освоенного.

Основная проблема самообучения состоит в том, что обучающееся существо не знает, за что оно получает оценки (поощрения и наказания). Я предполагаю, что биологически эта задача решается так. Если существо чувствует себя хорошо, то есть все его желания удовлетворены, и состояние организма нормальное, то оно способно сохранить в памяти свои восприятия и поведение в течение некоторого времени. Если состояние организма ухудшается, то способности к запоминанию тоже ухудшаются. Поэтому поведение, которое приводит к нормальному или субъективно лучшему состоянию организма, запоминается лучше.

Если субъективно привлекательные ощущения достигаются слишком легко, в результате слишком простого поведения, то организм попадает в психическую зависимость, так как простое поведение быстро становится автоматическим и неподконтрольным осознаванию. В результате "сознательное" существо теряет свободу выбора других поведений, кроме тех, которые ведут к легко достижимой "эйфории".

Критерий успеха – удовлетворённое желание

У бабочки субъективное прогнозирование управляется "анализатором успеха". Его задача выявить и сохранить важную информацию (не объективную, не точную, а субъективно важную для удовлетворения желания), и попробовать достичь ещё большего успеха. Несмотря на загадочное название, это устройство выполняет простую функцию. Оно запрещает органам бабочки вспоминать неуспешный опыт. Но более важно то, что этот механизм объединяет алгоритмически независимые органы бабочки в единую систему с общими желаниями и согласованно исполняемыми целями. Благодаря этой централизации бабочка воспринимает себя как единое "Я", а не как колонию органов.

Зарождение смысла

"Научное" определение информации состоит в том, что полное число состояний системы не несёт информации, а если какие-то "типы" состояний оказываются невозможными или наоборот, неизбежными, то появляется нетривиальная информация об этой системе. В пределе, если известно, что система находится в одном определённом состоянии, то информация о ней максимальна.

Между абстрактной "системой" и информационным сообщением есть принципиальная разница. Семантическое "сообщение" использует символы и правила, имеющие "приписанный" смысл. Мы приписываем важный для человека смысл природным явлениям, так как будто они тоже являются символами. "Полезное растение". Любое произведение искусства, машина или "закон природы" состоит для нас из элементов, имеющих символический смысл в рамках человеческой культуры. Мы обнаруживаем признаки целесообразности даже в расположении звёзд. Также и читатель "вчитывает" книгу. На самом деле в информационном смысле 99% содержания книги находится в голове читателя. А символы, которые он видит, только вызывают в его сознании те или иные ассоциации.

Семантическая информация - это надстройка над сознанием. Поэтому она не может быть в основе создаваемой (новой) разумной системы. А научная информация, то есть возникновение смысла из хаоса, - это "физическое явление", которое позволяет "вырастить" разум из небольшого количества исходных смыслов "желаний".

То, что я называю самообучением или адаптацией - это "чистое творчество". Правила неизвестны. Естественно, нет и символов, над которыми могли бы действовать эти правила. Однако образы, а затем и некие символы могут быть изобретены творческим механизмом сознания, и применяться сознательным существом по мере накопления им жизненного опыта.

Зарождение семантики происходит на неосознаваемом уровне в сознании.

Механизм этого явления основан на том, что органы (сенсоры и эффекторы) имеют свою нервную систему и тоже могут обучаться. После того, как рука под детальным управлением мозга освоила до автоматизма какое-то новое движение, в её нервной системе возникают новые ассоциации для этого движения. В процессе творческого поиска мозг может найти упрощённые команды, активизирующие эти ассоциации и запускающие управление нужным движением. Так мозг переходит от детального управления к "общему". Появляется короткий "символ", содержащий информацию, приписанную ему нервной системой руки.

Осознаваемая семантика - это естественное продолжение такой самопроизвольной структуризации опыта.

Некоторые итоги

Существо разумно, если оно ведёт себя разумно. А разумное поведение - это полезное для данного существа поведение. Объективный критерий полезности состоит в том, что это существо или весь вид благодаря такому разумному поведению выживает. Такое определение разумности похоже на определение рациональности. А само разумное поведение выглядит как способность к быстрой адаптации.

Именно таким разумом (который находит причинно-следственные связи между событиями) обладают все животные и даже отдельный нейрон! Только явления, доступные разным животным, очень различаются. Не только по информационной сложности, но и по физической доступности. Благодаря присущей разуму избыточности, человек (и другие высшие животные) использует его не только для выживания, но и для других развлечений.

Сознание оперирует не сущностями, а их субъективными отражениями - образами и понятиями. Такие абстракции недоступны мозгу как информационному процессору. В мозгу хранятся не образы и факты из внешнего мира, а динамический опыт взаимодействия с органами тела. Аналогично, нервная система отдельного органа запоминает опыт своего взаимодействия с миром и с мозгом. Нейроны и мозг в целом хранят методы преобразования информации сенсор-мозг-эффектор, а не сведения о её источнике и приемнике. Нейрон "запоминает" эти методы в виде своей внутренней биохимической структуры, от которой зависит, что будет на выходе при определенной динамике входных логических сигналов. Изменение этой структуры приводит как к забыванию, так и к творчеству.

Поскольку образы "хранятся" в сознании, то они, как и само сознание, являются динамическими объектами, то есть информационными потоками, а не статическими "картинами". Механизм сознания функционально объединяет абстрактный мозг и конкретные органы чувств и действий в единое разумное существо, которое материальными средствами поддерживает идеальный поток сознания.

Нормальные условия жизни способствуют запоминанию. Вследствие этого полезное поведение закрепляется. Однако, если это обычные условия и обычное поведение, то не происходит накопления новой информации. Есть только "регенерация" старой и повторение освоенных до автоматизма действий. Нарушение нормального биологического состояния организма ухудшает запоминание. Может быть поэтому, мы помним больше хорошего, чем плохого.

Мозг не живет в объектном мире, как, например, тело. Поэтому непосредственная информация об объектах ему недоступна. Её воспринимают датчики (глаза) и преобразуют в информационный поток, который обрабатывается мозгом. На выходе находятся другие датчики (мышцы), способные преобразовать поток информации в объектный вид. Когда мы видим или слышим, говорим или трогаем - мы действуем в объектном мире. Если этот мир изменится, то придется действовать иначе. Мозг способен переучиться для обработки новой информации. Поскольку такие изменения внешнего мира встречаются довольно часто, мозг оказался таким ценным органом, что его совершенствование стало важным условием выживания некоторых видов, например, человека.

Разум не способен понять всё. Но, не имея разума, который, по существу своему, субъективен и ограничен, вообще ничего понять нельзя. Допустим, кто-то создал думающую машину. Он знает в подробностях, как она устроена. И она уже не кажется ему сознательной. Просто известные алгоритмы вырабатывают нужные выходные реакции в ответ на входные сигналы. Также и нейрохирург не видит никакой тайны в сознании, которое так легко поддаётся его скальпелю.

В результате своих исследований разума я всё больше убеждаюсь, что человек хотя и царь природы, но он царствует среди равных ему думающих животных.