РАИИ

Российская ассоциация
искусственного интеллекта

НОВОСТИ РЕСУРСЫ БИБЛИОТЕКА РАИИ O РАИИ

Гостевая





Дискуссионная трибуна. Публикации.

Финн В.К. Своевременные замечания о ДСМ-методе автоматического порождения гипотез //НТИ, сер.2 №8, 2009 (DOC, 292K)

Финн В.К. К структурной когнитологии: феноменология сознания с точки зрения искусственного интеллекта //Вопросы философии, №1, 2009

Арский Ю.М., Финн В.К. Принципы конструирования интеллектуальных систем //Информационные технологии и вычислительные системы, №4, 2008


Обсуждение


Гостевая книга
Имя
e-mail
Текст сообщения
Введите код 561


  • Леонтьев Валерий Олегович  2.12.2008 14:28:53  Статья производит впечатление своей креативностью. В ней содержится множество идей. Рассмотрим некоторые из них.

    1.    Статья начинается с разложения сознания на составляющие:
    Сознание = система знаний + мышление + субъективный мир личности (СМЛ),
    которое предлагается аксиоматически без обоснования и сравнения с уже существующими разложениями. Как минимум, хотелось бы иметь сравнение предлагаемого разложения с представлениями З. Фрейда, А.Н. Леонтьева [1] (сознание = значение + смысл + чувственная ткань), определением процесса осознания Дж. Грея [6] (осознание = прогноз + сравнение прогноза с реальностью + достаточная точность прогноза), определением сознания Дж. Эдельмана [3,4,5] ( сознание = способность к отчету + самопонимание + способность к прогнозу + память (= система знаний)). Не вникая в детали, скажем, что такое сравнение возможно, и в основе упомянутых представлений после некоторого анализа можно обнаружить определение Дж. Грея. Если говорить о разложении автора, то прогноз осознаваемых явлений производится с помощью мышления. Некоторые другие представления о сознании описаны в обзоре Леонтьев В.О. «Психологические аспекты концепций сознания» http://www.neuroscience.ru/index.php?option=com_content&task=view&id=314&Itemid=25&limit=1&limitstart=0
    Нужно отметить, что мышление как компонента сознания, вместе с точными определениями этих терминов, была описана в [7]. Обнаружена более тонкая связь между этими понятиями. Мышление участвует в осознании только в ситуации достижения цели, когда требуется найти способ ее достижения (т.е. решения некоторой задачи), что и делается с помощью мышления. Однако возможно и отстраненное созерцание в ситуации отсутствия цели, при котором осознание происходит, но мышление не работает. Более формальное изложение см. в [8].

    2. Автор предлагает расширенный «четырехугольник сознания», в котором мышление представляется в виде цепочки из интуиции и рассуждения. Если под мышлением упрощенно подразумевать некий Решатель, т.е. механизм находящий решения самых разных задач, то в этом сложном механизме можно выделять самые разные подмеханизмы. Такими подмеханизмами будут интуиция (полностью неосознаваемый процесс поиска решения) и ее противоположность логическое рассуждение (полностью осознаваемый процесс поиска решения). Т.е. разделение мышления на интуицию и рассуждение имеет смысл. Но есть и другие способы поиска решения. Аналогия, например. Нужно ли включать аналогию во вновь образовавшийся пятиугольник сознания? Пожалуй, нет. Выделение в мышлении различных подмеханизмов это совсем другая задача, не имеющая к сознанию прямого отношения.

    3.В статье предлагается описание естественного интеллекта в виде списка способностей из 13 пунктов. Практически все эти способности относятся к когнитивной сфере. Но функционирование естественного интеллекта всегда сопровождается и управляется эмоциями. Практически любая эмоция может вмешаться в процесс мышления. В списке только в 7) упоминается единственная эмоция любопытства. Остальные более чем сотня эмоций незаслуженно забыты. О связи эмоций и сознания см. [10].
    Кроме того, непонятно нет ли в этом списке связанных, зависимых и избыточных способностей. Впрочем, этот вопрос можно рассматривать уже как развитие идей автора.

    4. Некоторые из способностей 1)-13) рассматриваются как отличие человеческого интеллекта от животных. Но иногда эти отличия описаны в терминах зависимых от человеческого языка и, потому, заведомо отсутствуют у животных. Например, в 8) требуется способность находить объяснение как ответ на вопрос «почему?». В такой формулировке эта способность заведомо у животных отсутствует. Но если ее переформулировать в виде способности находить причины событий, то такой способностью животные уже обладают. Описание соответствующих экспериментов см. в [1], см. также [11].

    Автор сразу предупреждает читателя, что строгие определения в статье отсутствуют и предлагает, если можно так выразиться, «философский уровень строгости рассуждений». До определенного момента ему удается соблюдать баланс между отсутствием строгости и содержательностью. Но этот зыбкий баланс, в конце концов, неизбежно нарушается.
    Нужно сказать, что даже в классической психологии и философии описано достаточно много феноменологических фактов, связанных с сознанием и мышлением, которые ждут формализации. Наука уже давно перезрела для строгой единой теоретической модели сознания, мышления, воли и эмоций. Однако давно перезревший плод никак не может появиться на свет. Некоторые возникающие здесь проблемы описаны в [9].
    Современные теоретические и экспериментальные исследования сознания концентрируются вокруг журналов Consciousness and Cognition и Journal of Consciousness Studies. Однако недостаточная строгость теоретических построений продолжает создавать непреодолимые препятствия.
    Это не означает, что нужно прекратить феноменологические описания и заняться только формализацией. Наоборот, новые наблюдения преподносят удивительные сюрпризы. Сравнение в статье субъективных ощущений с интерфейсом между низшими и высшими областями психики поражает своей неожиданностью.
    Каждый человек может попытаться формализовать свои феноменологические наблюдения. Автору несомненно удалось определенное продвижение на этом пути.

    С огромным уважением к автору и РАИИ, предоставившей возможность обсуждения,
    Леонтьев Валерий Олегович, Одесса,2008.


    1.Леонтьев А.Н. Деятельность, сознание, личность. Academia, 2004. 352с
    2. Зорина З.А., Полетаева И.И. Элементарное мышление животных. Аспект Пресс, 2002.
    3. Edelman GM. The remembered present. Basic Books, New York, 1989.
    4. Edelman DB, Baars BJ, Seth AK. Identifying hallmarks of consciousness in non-mammalian species. Consciousness and Cognition. 2005;14(1):169-187.
    5. A. K. Seth, B. J. Baars, D. B. Edelman Criteria for consciousness in humans and other mammals. Consciousness and Cognition. 2005;14(1):119-139.
    6. Gray JA. The contents of consciousness: a neuropsychological conjecture. Behav and Brain Sci. 1995;18:659-722.
    7.Леонтьев В.О. Сознание и разум. «Нейронауки», 2006/6 (8), 29-32 http://www.mma.ru/article/id14645
    8. Леонтьев В.О. Сознание и разум. Нейроинформатика-2007 http://www.niisi.ru/iont/ni/NI07/WS07/Leontiev.pdf
    9. Леонтьев В.О. Десять нерешенных проблем теории сознания и эмоций.
    http://www.neuroscience.ru/index.php?option=com_docman&task=doc_view&gid=116
    10 Alexandrov Y. I, Sams M. E. Emotion and consciousness: Ends of a continuum. Cognitive
    Brain Research. 2005, 25. 387 – 405.
    11. Леонтьев В.О. К вопросу о способности крыс к рассудочной деятельности. «Нейронауки», 2006/5(7),35-38
  • Скептик  28.12.2008 18:00:45  После столь впечатляющего отзыва достаточно трудно продолжать эту тему. Однако попробуем. Тем более, что у меня, как у неискушенного читателя, возник ряд вопросов.

    Хотелось бы начать с некоторых замечаний об отзыве предыдущего автора. Автор отзыва излишне «психологичен». Хотя я согласен с ним в некоторых оценках статьи ФВК (касающихся, например, вопроса отличия человеческого интеллекта от животного), тем не менее, В.О. Леонтьев не увидел главного: ФВК рассматривает проблему организации систем ИСКУССТВЕННОГО интеллекта. А здесь имеется своя специфика. Главное же, что есть в работе ФВК - это КОНСТРУКТИВИЗМ, т.е. указание того, как, по мнению автора, должны строиться реальные системы, решающие реальные же задачи.
    Кстати, та же избыточная «психологичность» (равно как и избыточная «философичность» ФВК) заставляет обоих авторов злоупотреблять излишней феноменологичностью описания рассматриваемых явлений. Здесь хотелось бы сделать одно замечание. Не побоюсь обвинений в чрезмерном упрощении и поверхностности суждений, однако отмечу, что с ТЕХНИЧЕСКОЙ точки зрения эмоции - это достаточно простая (просто реализуемая) вещь. Рассматривая эмоции как усилитель мотивации, вполне легко представить ее как, скажем, увеличение весовых коэффициентов в нейронных сетях (искусственных или «естественных»). Равно как и вспомнить классические работы по теории автоматов (М.Л.Цетлин), в которых рассматривались структуры с ярко выраженными «эмоциональными» особенностями - «доверчивые» и «недоверчивые» автоматы и проч. По крайней мере, несложно создать того же робота, обладающего явно выраженным эмоциональным поведением (если мы условимся, что судить о внутреннем состоянии системы можно судить исключительно по его фенотипической деятельности, т.е. в бихевиористском ключе).

    Вернемся, однако, к ФВК.

    Автор излишне настаивает на одном из подходов к определению ИС, как усилителя интеллектуальной деятельности человека. А из этого естественным образом и вытекают требования к интерактивности человеко-машинной системы, наличию интерфейса, «социальности» и т.д. Не желая вновь устраивать давно отшумевшие дискуссии о том, каковы цели и задачи ИИ, предпосылки и история его появления («разумные машины», «искусственный разум» и проч.), все-таки, будучи сугубым практиком, я бы поставил на первое место именно «автономность» ИС, как способность решения задач без столь явного участия человека.

    Далее по некоторым несколько смущающим меня пунктам.

    1. Судя по всему, как потребности, так и способности (2), (7) и (13) могут не только «имитироваться» но и порождаться в системе и без участия человека (это принципиально).

    2. Формула «сознание=система_знаний+мышление+СМЛ». При этом у ФВК СМЛ сопоставляется в архитектуре ИС с интерфейсом. Вопрос: если речь идет об автономной, не интерактивной системе, то что будет аналогом СМЛ - модель мира? БФ+БЗ?

    3. Принцип IV (адекватность предметной области и решателя для P1) и Принцип IV (условие применимости). Не идет ли речь об одном и том же? Так ли нужно разделять эти принципы?

    4. Складывается впечатление, что всякий раз, когда в тексте встречается способность №8 (способность и потребность находить объяснение), речь идет исключительно о способности, а потребность отходит на второй план. Например, Принцип X (абдуктивное объяснение) имитирует именно способность, но никак не потребность. Или я не понял, что понимает автор под потребностью ИС.

    5. Принцип XI (эволюционная эпистемология решения задач в ИС). По сути этот принцип - попытка возложить на человека (человеко-машинный интерфейс) выполнение требований к ИС. Более того, создается впечатление, что требования к ИС сводятся к понятию сознания, а интеллект и сознание - все-таки не одно и то же.

    6. По прочтении работы ФВК меня не перестает мучить одна неясность. То ли автор, рассуждая о принципах построения ИС, находит удачный пример их воплощения - систему, реализующую ДСМ-рассуждения, то ли, взяв за основу ДСМ-метод, строит вокруг него принципы построения ИС?

    А в целом же работа, конечно, впечатляет. И прежде всего сочетанием масштабности поставленных задач с одной стороны и конструктивностью и конкретностью предлагаемых подходов – с другой.

  • Поиск с Яндексом  
    e-mail: secret@raai.org              Rambler's Top100