Уважаемые коллеги, мы продолжаем тему "Как человек мыслит", начатую в январском выпуске. Напомню, что там была выдвинута идея ПВО - поля восприятия-организации - управляющего центра, присутствующего уже у животных и служащего базой, над которой надстраиваются более сложные формы мышления.
В этом выпуске мы обсудим эту идею в связи с теорией знаний, предложенной Марвином Мински.

Понятие "фрейм" возникло в 1974 году и получило массу приложений в психологии и программировании. Достаточно вспомнить НЛП и открытый там рефрейминг как метод психотерапии. Или сослаться на широкое использование в программировании фреймворков - каркасов для сборки программ из стандартных модулей.
Но за более чем три десятка лет развития и использования этой идеи раскрылись не только возможности ее, но и ограниченность этих возможностей, а также недостатки:
- построить искусственный интеллект на фреймах не удалось, и когда сегодня говорят: "...пионеры разработок в сфере наделения машин способностью мыслить самостоятельно готовятся пересмотреть всю концепцию идеи", -  то это относится и к фреймам;
- в современном веб-программировании использование фреймов не рекомендовано, т.к. препятствует поиску;
- рефрейминг как метод психотерапии может быть опасен.

Со сказочными возможностями и несбыточными надеждами фреймов нам и предстоит разобраться.

На снимке - Марвин Мински в 2008 году (Marvin_Minsky, хотя в СССР его почему-то называли Минский ;0). Общепризнанный мэтр символьного направления в создании искусственного интеллекта, трижды профессор в Массачусетском  технологическом институте (информационных искусств и наук, электроники, вычислительных наук), лауреат трех премий и двух медалей за научные достижения.

Мы разберем его книгу 1975 года и его интервью журналу Discover, январь 2007.

Марвин Мински высказал в 1974 году  предположение, что человеческий разум интерпретирует каждый новый объект, в частности языковой, посредством особых структур памяти, которые он назвал фреймами. Книга, в которой изложена эта гипотеза, обобщает в понятии "фрейм" идеи многих других исследователей интеллекта:
"пространство задач", "точка зрения" / А.Ньюэлл, Г.Саймон
"микромиры" / М.Мински, С.Пейперт
"ядра" / А.Гузман
"семантические корни" / Д.Вальтц
"сети подобия", "почти промахи" / П.Уинстон
"красота" / У. Хогарт
"координация перспектив", "мыслительные операции" / Ж. Пиаже
"алгоритм унификации" / Н.Нельсон
"процедура выравнивания и покрытия" / Дж.Мур, А.Ньюэлл
"семантическая зависимость", "концептуальные случаи" / Р.Шенк
"семантика предпочтений" / Дж.Уилкс
"предписания" как ажурные сценарии в системах "убеждений" / Р.Абельсон
"правдоподобные заключения" / Д.Макдермотт
"глубинные падежи" / С.Филмор, М.Селс-Мурсиа
"демон" / Е.Чарняк
"системы взаимно исключающего выбора" / Т.Виноград
"доводка" / И. Голдштейн, Дж.Суссман
"стратегия обращения с ошибками и неудачами" / У.Мартин
"структуры управления высших уровней" / А.Макдермотт, Дж.Суссман
"процесс согласования" / С.Фальман 
К списку авторов, чьи идеи впрямую вошли в концепцию фрейма, стоит добавить и Ф.Бартлетта, взгляды которого на мышление, опубликованные в 1932 году, Мински несколько раз цитирует в начале глав.

Этот список заимствований показывает, насколько широкий круг идей собирался автором и его помощниками, а также как тщательно эти идеи перерабатывались. А вот маститые советские ученые, занимавшиеся ИИ (член-корр. АН СССР Г.С.Поспелов и др.), при подготовке и публикации перевода продемонстрировали подход, который иначе как топорным не назовешь..

С теорией фреймов и знаменитой книгой М.Мински связано несколько забавных обстоятельств. Одно уже было упомянуто. Автора окрестили иной фамилией - и никто не возмутился.
Содержание книги сочли настолько сложным, что в предисловии к русскому изданию подчеркнуты трудности перевода и добавлено особое приложение Ф.М. Кулакова (ныне он профессор СПбГУ), в котором кратко пересказываются и поясняются примерами идеи книги. И никто не заметил, что пересказ этот грешит копипастом (от англ. сopy-paste - метод создания текста, состоящий в механическом комбинировании цитат, иногда даже без редактирования получившегося текста), а также повторами - например, фраза "В своей теории М.Минский не проводит границы между теорией человеческого мышления и теорией построения "думающей" машины (искусственного интеллекта)" встречается дважды в абзацах-близнецах.
Если поискать, что же говорится о фреймах в Интернете, то и там распространено облегченно-топорное восприятие теории Мински. Так, многие авторы для пояснения  его идей приводят одинаковые примеры, списанные у Мински. Получается уже не пояснение, а вопиющее свидетельство того, что идеи восприняты этими авторами формально, без опоры на собственное понимание.

Для преодоления инерции формального восприятия теории фреймов Вашему вниманию предлагается критический конспект книги. Ниже приводятся без кавычек точные цитаты-тезисы Мински с моими комментариями в рамках-фреймах ;0). Полный текст книги здесь.

Отправным моментом для данной теории служит тот факт, что человек, пытаясь познать новую для себя ситуацию или по-новому взглянуть на уже привычные вещи, выбирает из своей памяти некоторую структуру данных (образ), называемую нами фреймом, с таким расчетом, чтобы путем изменения в ней отдельных деталей сделать ее пригодной для понимания более широкого класса явлений или процессов.

Фрейм можно представлять себе в виде сети, состоящей из узлов и связей между ними. "Верхние уровни" фрейма четко определены, поскольку образованы такими понятиями, которые всегда справедливы по отношению к предполагаемой ситуации. На более низких уровнях имеется много особых вершин-терминалов или "ячеек", которые должны быть заполнены характерными примерами или данными.

Группы семантически близких друг к другу фреймов объединены в систему фреймов. Результаты существенных действий представляются в виде трансформаций между фреймами системы. Это дает возможность моделировать такие понятия, как внимание и ценность информации.
При зрительном восприятии образов различные фреймы соответствуют различным позициям наблюдателя, анализирующего одну и ту же сцену, а трансформации между ними отражают результаты перемещения наблюдателя из одного места в другое. Для систем других типов различия между фреймами могут соответствовать результатам выполнения каких-либо действий, определенным причинно-следственным связям между объектами внешнего мира или разным точкам зрения по одним и тем же вопросам. Одни н те же терминалы могут входить в состав нескольких фреймов системы - это один из центральных моментов теории, позволяющий согласовывать информацию, поступающую из различных источников.
Системы фреймов связаны, в свою очередь, сетью поиска информации. Если предложенный фрейм нельзя приспособить к реальной ситуации, т. е. если не удается найти такие задания терминалов, которые удовлетворяют условиям соответствующих маркеров, сеть поиска информации позволяет выбрать более подходящий для данной ситуации фрейм. ...
Мне не очень нравится предлагаемая ниже модель, но для систем ИИ раньше или позже нечто подобное непременно потребуется разработать. Глобальный пространственный фрейм (GSF) представляет собой постоянный набор "типичных позиций" в абстрактном трехмерном пространстве, копии которого используются как каркасы для сборки сложных сцен. ...

Отметим, что схемы, предложенные в настоящей работе, несовершенны во многих отношениях. Во-первых, некоторые варианты представления информации обсуждаются безотносительно к тем процессам, в которых они должны использоваться. Иногда приводятся только лишь описания свойств, которыми следует снабдить те или иные структуры. Маркеры и задания терминалов рассматриваются так, будто известны их соединения и связи с более крупными структурными единицами, чего на самом деле пока нет.
Помимо этих технических недочетов читатель не найдет в настоящей работе углубленного анализа проблемы "понимания" и возможностей ее изучения на основе разрабатываемой теории. Автор не претендует на то, что предлагаемые им идеи достаточны для создания совершенной теории, но считает, что структуры, связывающие в единое целое системы фреймов, могут оказаться полезными при объяснении ряда явлений, характерных для естественного интеллекта.

...у специалистов-психологов, работающих над проблемами интеллекта, наблюдается определенная тенденция к сокращению числа различных механизмов, включаемых в модели функционирования человеческого мозга. Это ведет к попыткам достигнуть большего эффекта с помощью меньшего, чем может быть обосновано, числа основных механизмов мышления.
Анатомия и генетика мозга являются той областью знаний, в которой можно предположить значительно большее число разнообразных механизмов, чем это можно себе представить сегодня. Нам следует сосредоточить свое внимание скорее на проблемах достаточности и эффективности, чем на проблеме необходимости.

Теория зрительного восприятия должна быть, по нашему мнению, одновременно и теорией воображения, поскольку и та, и другая имеют одни и те же конечные цели: конкретизацию заданий терминалов фреймов.
Я предполагаю, что зрительное восприятие кажется более живым, нежели воображение, ибо его задания менее подвижны. Они более стойко сопротивляются попыткам других процессов изменить их. Для того чтобы изменить описание непосредственно видимой сцены, наша система зрительного восприятия, вероятно, будет вынуждена изменить эту сцену - ни больше и ни меньше. Для человеческой фантазии, конечно же, подобных жестких ограничений не существует.
В то же время сами "зрительные" задания не являются абсолютно негибкими; любой может научиться в уме изменять, представленную на чертеже изометрию куба. Существуют так называемые "двусмысленные" фигуры, которые можно легко описать различным образом. В этом случае изменение фрейма равнозначно изменению "описательной точки зрения", причем действие или преобразование носит символьный, а не физический характер.

Мышление на базе "схем", в основе которого лежит согласование сложных ситуаций со стереотипными структурами фреймов, явно недостаточно для некоторых видов умственной деятельности. Очевидно, что взрослые люди, думая о чем-либо, используют для своих целей ранее сформировавшиеся собственные представления. Если представить себе "формальные" операции в виде процессов, которые могут изучать и критиковать наши ранее сформировавшиеся представления (в виде фреймов или любом другом), то с их помощью можно создавать новые структуры, которые будут соответствовать "представлениям о представлениях". У меня, однако, не сложилось еще определенного мнения о той роли, которую могли бы играть системы фреймов в этих более сложных видах умственной деятельности.

При рассмотрении примеров применения системы фреймов к различным проблемам могут возникнуть сомнения по поводу того, что данная теория хорошо объясняет одно и плохо другое. Однако было бы наивно ожидать, что в рамках любой отдельно взятой системы можно решить все проблемы человеческого мышления, тем более что эта система ограничена конкретными операциями, сводящимися к манипуляциям со стереотипными структурами данных.

Нет сомнения в существовании особых механизмов связанных с грамматическим разбором предложений. Поскольку смысл высказывания в равной мере "закодирован" как в позиционных и структурных отношениях между словами, так и в выборе самих слов, то должны существовать и механизмы, связанные с анализом этих отношений и участвующие в формировании структур, которые призваны более четко представлять смысл этого высказывания.
Я не предлагаю придерживаться концепции, утверждающей, скажем, что глаголы описывают локальные (в рамках отдельных предложений) структуры, а существительные - структуры глобальные, состоящие из отдельных параграфов или пунктов, хотя в первом приближении она могла бы оказаться полезной.
Фреймы, связанные со смыслом слов, будь то существительные, глаголы или другие части речи, несомненно, являются центрами концентрированного представления знаний о том, как связаны между собой различные предметы и явления, каким образом они используются и как они друг с другом взаимодействуют.

Традиционно видение и воображение рассматриваются как "пассивная" и "активная" формы восприятия. Действительно, в процессе зрительного восприятия (видения) человек анализирует картину с помощью выявленных в процессе сбора информации данных; это ограничивает его возможности уже потому, что преобладающим здесь выступает не поиск непротиворечивого и правдоподобного описания наблюдаемой сцены, а стремление согласовать "объективную" визуальную информацию с выбранным для целей представления фреймом. Воображение рисует нам значительно более разнообразнее картины, поскольку в этом случае задачей является подбор таких заданий терминалов, которые удовлетворяли бы нашим внутренним и, следовательно, изменяемым целям.
В языковых формах общения напрашивается аналогичное противопоставление. Если человек слушает своего собеседника, что предполагает проведение грамматического разбора, то для понимания текста ему требуется выстраивать отдельные слова в конструкции, отвечающие правилам грамматики и соответствующие как общему содержанию разговора, так и намерениям говорящего; это, конечно, резко уменьшает возможное число вариантов конкретизации заданий терминалов. Значительно большую свободу выбора предоставляет нам речь. Существует огромное число различных способов образования из отдельных фреймов предложений. Для выражения поставленных перед собой целей, будь то желание сообщить какую-либо информацию, убедить или ввести кого-то в заблуждение.
Подобные разграничения, однако, весьма опасны. Во многих случаях речь представляет собой прямой перевод данных, представленных в семантических структурах, в последовательность слов, тогда как слушание требует выполнения сложных и обширных построений для решения, в частности, проблемы понимания.
Существенные для проведения рассуждений тематические структуры или сценарии вызываются из памяти с помощью ключевых слов или ценных для этих рассуждении идей. Отдельные утверждения способствуют возникновению временных представлений, которые, но всей вероятности соответствуют тому, что современная лингвистика именует "глубинными структурами", и которые могут быстро изменяться или совсем исчезать по мере уточнения и развития основной идеи в рамках выбранного сценария. Среди ингредиентов такой структуры можно выделить в порядке увеличения масштабности охвата событий следующие уровни:
1. Поверхностные синтаксические фреймы - главным образом, это структуры с глаголами и существительными. Для них необходимы соглашения о предлогах и порядке следования слов в предложении. Напомним, что английский язык отличается строгим порядком следования слов в предложении, отклонениями от которого подчёркивается его особая семантическая окраска.
2. Поверхностные семантические фреймы - группы слов, объединенные вокруг действий. Необходимы определители и отношения для действующих лиц, инструментов, траекторий, стратегий, целей, последствий и побочных явлений.
3. Тематические фреймы - это сценарии для видов деятельности, окружающих условий, изображений кого-либо или чего-либо, наиболее важных проблем, обычно связанных с данной темой.
4. Повествовательные фреймы - это скелетные формы для типичных рассказов, объяснений и аргументации. Необходимыми здесь являются соглашения о формах построения повествований, о развитии действий, о главных действующих лицах, основных событиях и т.д., призванные помочь слушателю строить в своем уме новые тематические фреймы и конкретизировать задания отсутствия. В том случае, когда задание не согласуется голее в той степени, в какой это необходимо, отдельные предложения могут переозначивать задания терминалов, присоединять другие субфреймы, использовать трансформационные механизмы или вызывать замену фреймов верхнего уровня.
Изучение лингвистических структур, по всей видимости, поможет нам лучше понять, как построены наши системы фреймов, по той причине, что синтаксические структурные правила управляют отбором и компоновкой фреймов переходных предложений. С их помощью можно искать эти особым образом связанные с "задающими" терминалами структуры, для чего следует выбирать наиболее важные точки зрения (трансформации), вводить структуры предложений в тематические структуры и изменять крупные тематические представления в целом.

Область лингвистики подводит нас к созданию такой концепции фрейма, в которой терминалы служат для хранения наиболее вероятных (в некоторой ситуации) вопросов. Разберем более детально эту интерпретацию фреймов.
Фрейм - это множество вопросов, которые необходимо задать относительно предполагаемой ситуации; на их основе происходит уточнение перечня тем, которые следует рассмотреть, и определяются методы, требуемые для этих целей.
В рамках любого рассказа обычно интересуются его темой, отношением к ней автора, главным событием, главными героями и т. д. По мере того, как на каждый подобный вопрос дается предварительный ответ, к фрейму-рассказу присоединяются соответствующие субфреймы и вопросы, которые возникают при этом, становятся, в свою очередь, активными.
Откуда берутся вопросы? Рассмотрение этой проблемы выходит за рамки настоящей работы, однако, кем бы и как бы ни создавались фреймы, они должны использовать некоторые общие принципы. Методы, лежащие в основе порождения вопросов, в конечном счете, образуют общий интеллектуальный стиль каждого человека.
Аналогичные проблемы не могут не возникнуть в отношении стиля даваемых ответов. В простейшей форме стремление к заполнению конкретными данными пробелов терминалов может показаться чем-то похожим на удовлетворение человеком голода или ликвидации неудобств.

Мы говорим о человеке, что он умен, если он может быстро находить весьма подходящие фреймы. Система извлечения информации у этого человека работает лучше, чем у других при выработке правдоподобных гипотез, при определении условий, которым должен удовлетворять новый фрейм, и в части использования тех знаний, которые были приобретены на "неудачных" ветвях процесса поиска. Организация удачной модели памяти является задачей не менее сложной, чем решение любых других задач того же класса. Поэтому хороший механизм извлечения информации лишь частично может базироваться на основных "врожденных" механизмах. Он в значительной степени должен зависеть от (приобретенных в процессе обучения) данных о структуре своих собственных знаний.

При зрительном восприятии, например, комнаты или процессе понимания рассказа человек собирает сеть, состоящую из фреймов и субфреймов. В этой сети представляется все, что было замечено, или существует в предположении, будь то правильным или ошибочным.
Конечно, здесь не может не быть исключений! Мы должны предусмотреть возможность существования определенного числа групп данных, связанных с чем-то подобным регистрам "кратковременной памяти". Следует, однако, помнить, что лишь незначительная часть информации может длительно храниться в памяти, если она не связана с соответствующими фреймами.

Заманчивой кажется идея о том, что более крупные понятия формируются на подсознательном уровне человеческого мышления. По наблюдениям X.Пуанкаре, после периода умственной активности, за которым следует более длительный период ее спада, на человека находит внезапное озарение. Подсознательную деятельность (если следовать взглядам X.Пуанкаре) следует рассматривать как комбинаторный эвристический поиск, в котором вероятность успеха зависит в первую очередь от качества ингредиентов, введенных во время активной умственной работы; эти элементы объединяются самыми разными способами до тех пор, пока не будет получена такая конфигурация, которая выдержит определенный вид проверки.
Главной целью при решении задач должно быть стремление лучше понять пространство задачи и найти такие представления, в рамках которых данная задача решается довольно просто. Цель поиска состоит в том, чтобы получить информацию для формирования надлежащего представления, а не для нахождения решения, как это обычно предполагается; после того, как удастся соответствующим образом представить это пространство задачи, решение найти будет значительно легче.

Согласно предложенной Т. Куном эволюционной модели наука развивается с помощью установленных описательных схем. Крупные открытия являются результатом новых парадигм, новых способов описания вещей, которые приводят к новым методам и методикам. В конце концов, изменяется содержание научного знания.
Т.Кун предпочитает применять свою весьма эффективную схему нового описания на уровне крупных научных революций; мне кажется, что эта идея применима и к проблемам повседневного мышления. В визуальном восприятии парадигмы должны играть не метафорическую, а, скорее, самостоятельную роль, а это именно то, что мы предлагаем в нашей концепции фреймов.

Далее я не буду касаться тех аспектов, которые связаны с длительным управлением процессами мышления, включая такие проблемы, как многоцелевое управление, распределение времени между задачами, распределение памяти, энергетических и других видов ресурсов.
В значительно более короткие промежутки времени - назовем их эпизодами - деятельность механизмов человеческого мышления и понимания, как я это себе представляю, направлена на то, чтобы отыскать подходящий в данной ситуации (будь то планирование или распознавание образов) фрейм и заполнить задания отсутствия его терминалов конкретными данными. Это дает нам возможность представить крупные проблемы в виде совокупности более мелких, а также затрагивает все обычные вопросы эвристического программирования.

Теория фреймов предполагает наличие большого числа разнообразных механизмов для манипуляции визуальными и символьными образами. Я не думаю, что большинство этих механизмов может возникнуть в процессе самоорганизации системы; скорее, они зависят от того, что было заложено в систему с самого начала.
На ранних стадиях эволюционного развития узловые моменты были, видимо, связаны с совершенствованием детекторов отдельных визуальных черт, что диктовалось необходимостью в удовлетворении первых жизненных потребностей (питание, воспроизводство, самооборона). По мере того, как все более сложными становились зрительная и двигательная системы, росли требования к правильному установлению отношений между видимыми предметами и их местонахождением во внешнем мире, т. е. между предметами и теми позициями, которые можно достигнуть или к которым можно подойти. Особо нужными становились те преобразования, которые позволяли бы компенсировать изменения в своем собственном местоположении. Это было важно, например, на охоте или в каких-то иных критических условиях. На охоте или во время полета определенным преимуществом обладает тот, кто способен координировать информацию, получаемую во время своего движения; если даже видение все еще базируется на последовательном распознавании простых визуальных черт, то и в этом случае способность к правильному объединению различных признаков, замеченных в разное время, предоставляет субъекту определенные преимущества.

Большинство людей ощущают противоречие между объяснением мыслительных процессов с помощью дискретных символьных описаний и естественными представлениями, в которых наш внутренний мир постоянно связан с понятиями различной интенсивности (краски, усилия и др.), т.е. понятиями со свойствами непрерывности. В этой области выявление истины с помощью самоанализа или интуиции пользы не приносит. Я убеждён, что символьные модели являются более глубокими по своим возможностям, тогда как (и это может показаться парадоксальным) непрерывные структуры ограничены и могут явиться тормозом при проведении исследований.

В данной работе приведено довольно много различных аргументов против использования количественных моделей. Каждый из них в отдельности не слишком весом, и поэтому мне, видимо, следует остановиться на тех общих положениях, которые лежат в основе негативного в целом отношения, к количественным моделям. Исходный тезис таков: выходные данные такого механизма независимо от того, являются ли они цифровыми, аналоговыми, физическими (несимвольными) или статистическими, слишком бесструктурны и неинформативны, чтобы на их основе можно было проводить дальнейший анализ. Данные в виде чисел позволяют принимать решения о немедленном выполнении каких-то действий или мускульных сокращений, о выделении и объединении стимулирующих признаков и т. д. Но поскольку каждое такое данное по природе своей является оценкой, а не резюме, то для целей планирования и проведения дальнейших рассуждении все они непригодны. В числовом показателе нельзя отразить те соображения, на основании которых он был получен. Поэтому, хотя количественные результаты полезны для достижения непосредственных целей, они во многом ограничивают возможности дальнейшего и более глубокого развития систем.

В приложении я хотел бы разъяснить, почему считаю большинство логических подходов малоэффективными. Еще со времен Аристотеля предпринимались серьезные усилия, чтобы представить рассуждения с помощью логистической системы, т.е. такой системы, в которой полностью отделены друг от друга предложения, которые содержат конкретную информацию, и силлогизмы или общие законы построения правильных высказываний. На протяжении веков никому не удалось продемонстрировать успешное функционирование такой системы на реальном и значительном множестве высказываний. Я полагаю, что подобные попытки будут и впредь заканчиваться неудачно, но не вследствие дефектов логических формализмов, а из-за самого характера логистического метода.
Типичная попытка имитации рассуждении на уровне здравого смысла начинается с выбора "микромира" ограниченной сложности. С одной стороны, задаются цели высокого уровня, например: "Я хочу попасть из дома в аэропорт"; с другой - множество небольших высказываний - аксиом, например: "Автомобиль находится в гараже", "Никто не выходит из дома раздетым", "Чтобы попасть в какое-то место, человек должен двигаться в том направлении" и т. д. Для работы системы используются процедуры эвристического поиска, с помощью которых должна быть доказана достижимость поставленной цели и найден соответствующий перечень необходимых действий.
Я не буду останавливаться и анализировать историю всех имевших место попыток получить из набора аксиом целевые высказывания, а приведу по этому вопросу свое мнение: в простых случаях можно добиться, чтобы подобные системы могли "действовать", но по мере приближения выбранного микромира к реальному трудности становятся непреодолимыми. Проблема поиска подходящих аксиом или, иначе, проблема "задания фактов" на основе всегда логически правильных допущений оказалась значительно более трудной, чем это ранее предполагалось.
ФОРМАЛИЗАЦИЯ ЗНАНИЙ. Главной проблемой в изучении интеллекта является проблема создания основы знаний. Мы слишком мало знаем о содержании и структуре обычных знаний независимо от того, какую цель преследуют наши исследования: создание логистических систем или что-либо иное. Самая простая система здравого смысла должна быть информирована о таких категориях, как причина и следствие, время, цель, местоположение, процесс, вид знаний; ей также необходимы сведения о том, как приобретаются, представляются и используются знания. В этой области необходимы серьезные эпистемологические исследования. Работы Дж.Маккарти (смотрите, например, Дж.Маккарти, 1968; Дж.Маккарти и П.Хэйес,1969) и Е.Сандуолла(1970) ценны именно в этом плане. У меня еще не сложилось определенного представления о том, как следует проводить подобные исследования; замечу лишь, что выбранный аппарат представления будет сильно влиять на ценность решаемых задач и здесь уже логистика приносит вред.
РЕЛЕВАНТНОСТЬ. Ключевой является проблема выбора из избыточного множества релевантной информации. Современная эпистемология во многом отличается от прежних теорий познания. Необходимы новые и общие представления о вычислениях. Наиболее ценная по своему характеру часть знаний не может передаваться нам извне, скорее, она внутренне должна быть доказана. Для каждого факта человеку требуются метафакты, сообщающие о том, каким образом и когда их можно использовать. В пределах ограниченного микромира можно установить способы взаимодействия между ситуациями, действиями и случайными явлениями. И хотя данная система сможет на базе заданных аксиом выполнять дедуктивные построения, она не сможет определить, когда ей следует это делать, а когда нет.
Например, человек может пожелать сообщить системе следующее: "Не переходи дорогу, если приближается автомобиль". Но он не может потребовать того, чтобы система доказала, будто автомобиль не приближается, поскольку подобное доказательство обычно будет совсем не тем, что нам нужно. Системе PLANNER (С.Хьюитт,1971) можно дать указание попытаться доказать, что автомобиль приближается, и сообщить, что только в том случае, если эта (ограниченная) попытка дедуктивного вывода окажется безуспешной, можно переходить улицу. Чисто логистическая система ничего подобного сделать не позволяет. Первой реакцией должно быть: "Посмотреть налево, посмотреть направо". Но если сообщить системе данные о скоростях, тупиковых переулках, вероятностях обгона на повороте и др., доказательство становится необозримым и потому невозможным. Нам следует представить и сделать понятным системе слово "обычно". В конечном счете, потребуется понять компромисс между гибелью и деятельностью, ибо нельзя ничего сделать, будучи парализованным страхом.
ЕДИНООБРАЗИЕ. Даже сформулировав ограничения на использование релевантной информации, в логистических системах нам все равно придется столкнуться с проблемой её правильного использования. В таких системах все аксиомы обязательно должны быть "разрешенными", ибо с их помощью вырабатываются новые заключения. Любая дополнительная аксиома ведет к появлению новых теорем, и поэтому ни одну из аксиом потерять нельзя. Вся сложность в том, что нет явного способа указать системе, какие выводы следует делать, а какие - не следует. Если мы зададим достаточно аксиом, чтобы на их основе вывести все требуемые нам следствия, то, кроме того, мы докажем значительно большее число других вещей. Если, однако, попытаться изменить это положение, задав ряд аксиом о релевантности данных, то это приведет лишь к росту числа нежелательных теорем: к старым добавятся такие теоремы, которые будут содержать утверждения относительно их нерелевантности.
Логиков обычно интересуют сами процедуры доказательств, они не обращают внимания на возможный рост дедуктивных систем и поэтому могут получать те утверждения, которые их интересуют. При развитии интеллекта ситуация будет иной. Субъект должен научиться определять, во-первых, какие из признаков в каждой ситуации основные, а какие нет, и, во-вторых, какие виды дедукции не должны восприниматься слишком серьезно. Обычная реакция на рассказы лгунишки смех, из чего следует сделать вывод, что отклонять следует не его исходную посылку-аксиому, а его дедуктивные построения. В этой связи возникает следующая проблема.
ЗНАНИЯ ДЛЯ УПРАВЛЕНИЯ ПРОЦЕДУРАМИ. Отделение аксиом от процесса вывода делает невозможным использование классифицированных знаний об имеющихся в системе утверждениях или фактах. Мы также не можем включить в нее знания об управлении процессом дедукции. Проблема состоит в том, чтобы аксиоматизировать наши представления об аппроксимации и близости объектов друг к другу. Человеку привычно свойство транзитивности, скажем: (А около B) /\ (B около С) => (А около С), но неограниченное применение такого правила приведет к тому, что все предметы окажутся расположенными по соседству друг с другом. Можно применить нечто вроде технической шутки: (А (около)¹ В) /\ (В (около)¹ С) => (А (около)² С), допустив при этом, скажем, только пять степеней для понятия "около": около, (около)², .... (около)⁵. Можно изобрести какие-то аналоговые величины или параметры. Но в логистической системе нельзя ограничиться применением, например, трех правил транзитивности подряд, если на то нет серьезных оснований. Я не знаю пока, как же следует разрешить эту проблему, и, по имеющимся сведениям, никто еще не предложил в этом плане чего-либо делающего ему честь. Хочу лишь отметить тот факт, что, поскольку логистический подход достаточно распространен, никто непредвзято не исследовал подобный тип процедурных ограничений.
КОМБИНАТОРНЫЕ ПРОБЛЕМЫ. Логическим системам, на мой взгляд, не удастся избежать комбинаторного взрыва в том случае, если будет найдена возможность представления более обширных знаний. Хотя время от времени мы получаем сведения об успешной работе подобных систем в ограниченных микромирах, следует иметь в виду, что для исследований по искусственному интеллекту это обычная ситуация: система высокого качества, решающая трудные головоломки, часто оказывается непригодной для работы в более крупных проблемных областях.
СОВМЕСТИМОСТЬ И ПОЛНОТА, В процессе своей умственной деятельности человек критически оценивает имеющиеся у него планы и перечни целей, пересматривая свои знания и правила их использования. Некоторые из этих действий можно непосредственно внести в саму программу доказательства теорем и использовать их для последующего самоанализа, но человек в действительности хочет представлять их себе более естественным образом, в виде свода декларативных правил. Почему же тогда ученые стремятся, чтобы именно логистические системы выполняли эту работу? Действительная причина заключается в том, что такие системы весьма просты и элегантны; если бы они еще были и эффективны, было бы просто замечательно. Чаще указывают на другую причину, неверную по своей сути, именно, что подобные системы математически строги, поскольку они обладают свойствами:
(1) полноты, т.е., "можно доказать все истинные утверждения", и
(2) совместимы, т.е. "нельзя доказать ни одно ложное утверждение".
По всей видимости, люди часто не понимают, что полнота - это достоинство не такое уж редкое. Оно является тривиальным следствием любой процедуры исчерпывающего поиска, поэтому всякая система может быть переведена в категорию "полных", если к ней подсоединить любую другую полную систему и после этого чередовать этапы вычислений. Совместимость - понятие более тонкое, оно предполагает отсутствие противоречивости в наборах аксиом, Мне кажется, что в системах искусственного интеллекта подобного требования не следует придерживаться, ибо ни одна система естественного интеллекта не является полностью совместимой. Важно то, каким образом человек разрешает парадокс или находит выход из конфликтной ситуации, каким образом человек учится на своих и чужих ошибках, как распознает и отбрасывает всевозможные несоответствия.
Подобные неправильные представления привели к тому, что теорема неполноты Гёделя стимулировала появление совершенно беспочвенных утверждений о различиях между человеком и машиной. Никто, видимо, не заметил ее более "логичной" интерпретации, именно, что стремление к совместимости налагает определенные ограничения.
Конечно, есть и будут различия между людьми (которые доказуемо несовместимы) и машинами, конструкторы которых создавали их на основе этого принципа. Но для машин вовсе не является необходимым программирование на основе только совместимых логических систем. Те же философские рассуждения, которые выше не были нами приведены, но, тем не менее, подразумевались, использовали это ненужное допущение. (Полученные не так давно результаты, показывающие совместимость современной теории множеств, рассматриваются мною не как доказательство потенциальной возможности ее использования в системах искусственного интеллекта, а, наоборот, как подтверждение ее вероятной неприменимости для наших целей.)
Когда одного известного математика предупредили, что, сделав еще один логический шаг в своем доказательстве, он придет к парадоксу, тот совершенно серьезно ответил: "А я не буду делать этот шаг". Значительная часть наших обычных (и даже математических) знаний напоминает знания людей - представителей опасных профессий, которые должны очень хорошо знать, когда и какие действия следует считать неразумными. В наших условиях нужно дать ответы на следующие вопросы: в каких случаях возможно применение тех или иных видов аппроксимаций; когда различные критерии могут предопределить получение различимых оценок; какие утверждения и какие типы ссылок допустимы и другое. Концепции, основанные на свойстве транзитивности, представляют значительный интерес и от них вовсе не следует отказываться лишь потому, что еще не найдена удовлетворительная система аксиоматизации. Подводя итоги, отметим следующее.
1. Логические рассуждения недостаточно гибки и не могут служить основой для мышления; они представляются мне в виде набора эвристических методов, эффективных только тогда, когда применяются к упрощенным схематическим планам. Совместимость, требуемая логикой, в иных аспектах обычно не обеспечивается и. вероятно, даже нежелательна, поскольку совместимые системы по своим возможностям будут, видимо, недостаточно мощными.
2. Я сомневаюсь в возможности эффективного представления обычных знаний в виде совокупности простых, независимых, "истинных" утверждений.
3. Стратегия полного отделения конкретных знаний от общих правил вывода слишком радикальна. Мы нуждаемся в разработке более непосредственных способов соединения фрагментов знаний, позволяющих дать совет, каким образом их следует использовать.
4. Декларативная форма представления информации, которую долгое время считали наиболее подходящей для проведения дедуктивных выводов, оказалась не столь уже необходимой, ибо мы нашли способы манипуляции структурными и процедуральными описаниями.
Я не собираюсь утверждать, что мышление во многом может самостоятельно развиваться без чего-либо подобного рассуждениям. Мы, без сомнения, нуждаемся и используем элементы силлогистической дедукции, однако их применение должно подчиняться процессам "согласования" и "конкретизации", вызванным к жизни другими функциональными потребностями. К традиционной формальной логике следует подходить как к техническому инструменту для уточнения всего, что может быть выведено из некоторого множества данных или для подтверждения того, что данное следствие можно получить совершенно определенным образом; формальная логика совершенно непригодна для обсуждения того, какая информация требуется и что должно выводиться при обычных обстоятельствах. Подобно абстрактной теории синтаксиса формальная логика нуждается в мощной процедуральной семантике, без которой она попросту бессильна в сложных проблемных ситуациях.
Не следует категорически утверждать, что принцип совместимости, столь важный для математической логики, оказал губительное влияние на исследования в области моделирования мышления. Однако в общем плане он привел к роковой концепции о потенциальных возможностях машин вообще. На "логическом" уровне были заблокированы попытки представления обычных знаний, ибо все работы предполагали поиск набора таких истин, которые бы не зависели от контекста и были почти всегда сами по себе справедливы. На уровне моделирования интеллекта был задержан процесс осознания того факта, что мышление всегда начинается с наводящих на мысль, но несовершенных планов и образов, которые (если это вообще имеет место) постепенно совершенствуются и заменяются лучшими вариантами.

Современный фрейм часто представляют в виде таблицы (с дополнительными двумя столбцами).

В качестве значения слота может выступать имя другого фрейма; так образуются сети фреймов. Все фреймы взаимосвязаны и образуют единую фреймовую структуру, в которой органически объединены декларативные и процедурные знания. Это дает возможность производить композицию и декомпозицию информационных структур аналогично тому, как это делал бы человек при описании структуры своих знаний.
Модель фрейма является достаточно универсальной, поскольку позволяет отобразить все многообразие знаний о мире через:
фреймы - структуры для обозначений объектов и понятий (заем, залог, вексель)
фреймы - роли (менеджер, кассир, клиент)
фреймы - сценарии (банкротство, собрание акционеров, празднование именин)
фреймы - ситуации (тревога, авария, рабочий режим устройства и т.д.)
Теория фреймов послужила толчком к разработке нескольких языков представления знаний, которые благодаря своим широким возможностям и гибкости стали в последние годы довольно распространенными языками. К ним относятся FRL (Frame Representation Language), KRL, FMS и др., представляющие собой среду для разработок и исследований в области ИИ и широко используемые специалистами в данной области. (Концепция ООП может рассматриваться как реальное воплощение понятий, близких фрейму, в традиционных языках программирования.)
Основным недостатком фреймовых моделей является отсутствие механизмов управления выводом. Отчасти этот недостаток устраняется при помощи присоединенных процедур, реализуемых силами пользователя системы.
И здесь приходится вспомнить раскритикованное Мински исчисление предикатов. Оно признано классической формой представления знаний в исследованиях по искусственному интеллекту. Основное преимущество заключается в наличии мощного механизма вывода, имеющего строгое математическое обоснование. К недостаткам языка можно отнести его ограниченные выразительные возможности. Кроме того, представление фактов и закономерностей в виде логических формул очень сложно.
Подведем итоги. Каждая из известных моделей представления знаний обладает минимум 3 недостатками из приведенного списка:
недостаточный универсализм,
сложность получения новых знаний,
возможность получения противоречивых знаний,
сложность наращивания модели,
значительная размерность модели,
отсутствие наглядности в представлении знаний.
Таким образом, очевидно наиболее эффективной моделью представления знаний является смешанная модель. Все больше создается ИИ, основанных на таких, казалось бы, несовместимых подходах, как нейронные сети и фреймы, семантические сети и логика предикатов.