Структура прогнозирования памяти

редактировать

Структура прогнозирования памяти - это теория функций мозга, созданная Джеффом Хокинсом и описанная в его книге « Об интеллекте» 2004 года. Эта теория касается роли неокортекса млекопитающих и его ассоциаций с гиппокампами и таламусом в сопоставлении сенсорных входов с сохраненными паттернами памяти и того, как этот процесс приводит к предсказаниям того, что произойдет в будущем.

СОДЕРЖАНИЕ
  • 1 Обзор
  • 2 Основная теория: распознавание и предсказание в двунаправленных иерархиях
    • 2.1 Прочие условия
  • 3 Нейрофизиологическая реализация
    • 3.1 Кора
    • 3.2 Таламус
    • 3.3 Гиппокамп
  • 4 Пояснительные успехи и прогнозы
  • 5 Вклад и ограничения
  • 6 моделей машинного обучения
    • 6.1 Модели на основе байесовских сетей
    • 6.2 Другие модели
  • 7 См. Также
  • 8 ссылки
  • 9 Дальнейшее чтение
  • 10 Внешние ссылки
Обзор

Теория основана на наблюдаемом сходстве между структурами мозга (особенно неокортикальной тканью), которые используются для широкого спектра типов поведения, доступных млекопитающим. Теория утверждает, что удивительно однородное физическое устройство корковой ткани отражает единый принцип или алгоритм, лежащий в основе всей обработки корковой информации. Предполагается, что основной принцип обработки - это петля обратной связи / отзыва, которая включает как корковое, так и экстракортикальное участие (последнее, в частности, со стороны таламуса и гиппокампа ).

Основная теория: распознавание и предсказание в двунаправленных иерархиях

Центральное понятие рамок памяти предсказания является то, что снизу вверх входы сопоставляются в иерархии из распознавания, и вызывают ряд сверху вниз ожидание, закодированное в potentiations. Эти ожидания взаимодействуют с восходящими сигналами как для анализа этих входных данных, так и для прогнозирования последующих ожидаемых входных данных. Каждый уровень иерархии запоминает часто наблюдаемые временные последовательности входных шаблонов и генерирует метки или «имена» для этих последовательностей. Когда входная последовательность совпадает с запомненной последовательностью на данном уровне иерархии, метка или «имя» распространяется вверх по иерархии, тем самым устраняя детали на более высоких уровнях и позволяя им изучать последовательности более высокого порядка. Этот процесс увеличивает инвариантность на более высоких уровнях. Более высокие уровни предсказывают будущие входные данные, сопоставляя частичные последовательности и проецируя свои ожидания на более низкие уровни. Однако, когда возникает несоответствие между входными и запомненными / предсказанными последовательностями, более полное представление распространяется вверх. Это вызывает активацию альтернативных «интерпретаций» на более высоких уровнях, что, в свою очередь, порождает другие прогнозы на более низких уровнях.

Рассмотрим, например, процесс зрения. Информация снизу вверх начинается с сигналов сетчатки глаза низкого уровня (указывающих на наличие простых визуальных элементов и контрастов). На более высоких уровнях иерархии извлекается все более значимая информация, касающаяся наличия линий, областей, движений и т. Д. Еще выше по иерархии активность соответствует наличию определенных объектов - а затем и поведению этих объектов. Информация сверху вниз содержит подробные сведения о распознанных объектах, а также об их ожидаемом поведении с течением времени.

Сенсорная иерархия вызывает ряд различий между различными уровнями. По мере продвижения вверх по иерархии количество представлений увеличивалось:

  • Протяженность - например, большие области поля зрения или более обширные тактильные области.
  • Временная стабильность - сущности более низкого уровня меняются быстро, тогда как восприятия более высокого уровня имеют тенденцию быть более стабильными.
  • Абстракция - в процессе последовательного извлечения инвариантных признаков распознаются все более абстрактные объекты.

Взаимосвязь между сенсорной и моторной обработкой - важный аспект основной теории. Предполагается, что моторные области коры головного мозга состоят из поведенческой иерархии, аналогичной сенсорной иерархии, причем самые низкие уровни состоят из явных моторных команд для мускулатуры, а самые высокие уровни соответствуют абстрактным предписаниям (например, «изменить размер браузера»). Сенсорная и моторная иерархии тесно связаны: поведение порождает сенсорные ожидания и сенсорные восприятия, управляющие моторными процессами.

Наконец, важно отметить, что все воспоминания в корковой иерархии должны быть изучены - эта информация не сохраняется в мозгу заранее. Следовательно, процесс извлечения этого представления из потока входных данных и поведения теоретизируется как процесс, который постоянно происходит во время познания.

Прочие условия

Хокинс имеет обширное образование в качестве инженера-электрика. Другой способ описать теорию (намекали в своей книге) является как учебной иерархии из питающих вперед стохастических автоматов. С этой точки зрения мозг анализируется как проблема кодирования, которая не слишком отличается от кодов исправления ошибок, предсказывающих будущее. Иерархия - это иерархия абстракции, в которой состояния машин более высокого уровня представляют более абстрактные условия или события, и эти состояния предрасполагают машины более низкого уровня к выполнению определенных переходов. Машины нижнего уровня моделируют ограниченные области опыта или управляют или интерпретируют датчики или эффекторы. Вся система фактически контролирует поведение организма. Поскольку конечный автомат работает с прямой связью, организм реагирует на будущие события, предсказанные на основе прошлых данных. Поскольку система является иерархической, она демонстрирует поведенческую гибкость, легко создавая новые последовательности поведения в ответ на новые сенсорные данные. Поскольку система учится, новое поведение приспосабливается к меняющимся условиям.

То есть эволюционная цель мозга - предсказывать будущее, по общему признанию, ограниченными способами, чтобы изменить его.

Нейрофизиологическая реализация

Теоретически описанные выше иерархии возникают в основном в неокортексе млекопитающих. В частности, предполагается, что неокортекс состоит из большого количества столбцов (как предположил также Вернон Бенджамин Маунткасл из анатомических и теоретических соображений). Каждый столбец настроен на определенную функцию на заданном уровне иерархии. Он принимает восходящие входные данные от более низких уровней и нисходящие входные данные от более высоких уровней. (Другие столбцы на том же уровне также подаются в данный столбец и служат в основном для подавления эксклюзивных представлений активации.) Когда вход распознается, то есть достигается приемлемое согласие между восходящими и нисходящими источниками - a column генерирует выходные данные, которые, в свою очередь, распространяются как на более низкие, так и на более высокие уровни.

Кора

Эти процессы хорошо отображаются на определенных слоях коры головного мозга млекопитающих. (Корковые слои не следует путать с разными уровнями иерархии обработки: все слои в одном столбце участвуют как один элемент в одном иерархическом уровне). Ввод снизу вверх поступает на уровень 4 (L4), откуда он распространяется на L2 и L3 для распознавания инвариантного содержимого. Нисходящая активация достигает L2 и L3 через L1 (в основном аксональный слой, который распределяет активацию локально по столбцам). L2 и L3 сравнивают информацию снизу вверх и сверху вниз и генерируют либо инвариантные «имена», когда достигается достаточное совпадение, либо большее количество переменных сигналов, которые возникают, когда это не удается. Эти сигналы распространяются вверх по иерархии (через L5), а также вниз по иерархии (через L6 и L1).

Таламус

Для учета хранения и распознавания последовательностей образов предлагается комбинация двух процессов. Неспецифический таламус действует как «линия задержки», то есть L5 активирует эту область мозга, которая повторно активирует L1 после небольшой задержки. Таким образом, вывод одного столбца генерирует активность L1, которая будет совпадать с вводом столбца, который во времени является последующим в последовательности. Это временное упорядочение работает вместе с идентификацией последовательности более высокого уровня, которая не изменяется во времени; следовательно, активация представления последовательности вызывает предсказание компонентов нижнего уровня один за другим. (Помимо этой роли в секвенировании, таламус также активен как сенсорная путевая станция - эти роли, по-видимому, включают отдельные области этой анатомически неоднородной структуры.)

Гиппокамп

Другой анатомически разнообразной структурой мозга, которая, как предполагается, играет важную роль в иерархическом познании, является гиппокамп. Хорошо известно, что повреждение обоих гиппокампа нарушает формирование долговременной декларативной памяти ; Люди с таким повреждением не могут формировать новые воспоминания эпизодического характера, хотя они могут без труда вспоминать более ранние воспоминания, а также могут изучать новые навыки. В современной теории гиппокампы считаются верхним уровнем корковой иерархии; они специализируются на сохранении воспоминаний о событиях, которые распространяются до самого верха. Поскольку такие события вписываются в предсказуемые шаблоны, они становятся запоминаемыми на более низких уровнях иерархии. (Такое движение воспоминаний по иерархии, кстати, является общим предсказанием теории.) Таким образом, гиппокамп постоянно запоминает «неожиданные» события (то есть те, которые не предсказываются на более низких уровнях); если они повреждены, нарушается весь процесс запоминания по иерархии.

Дополнительная информация: ячейка места Дополнительная информация: Схема Папеза

В 2016 году Джефф Хокинс выдвинул гипотезу, что столбцы коры головного мозга не только фиксируют ощущение, но и относительное расположение этого ощущения в трех измерениях, а не в двух ( локальный захват ) по отношению к тому, что вокруг него. «Когда мозг строит модель мира, все имеет место относительно всего остального» - Джефф Хокинс.

Пояснительные успехи и прогнозы

Структура прогнозирования памяти объясняет ряд психологически важных аспектов познания. Например, способность экспертов в любой области легко анализировать и запоминать сложные проблемы в своей области является естественным следствием их формирования все более и более утонченной концептуальной иерархии. Кроме того, процесс перехода от « восприятия » к « пониманию » легко понять в результате сопоставления ожиданий сверху вниз и снизу вверх. Несовпадения, напротив, порождают исключительную способность биологического познания обнаруживать неожиданные восприятия и ситуации. (Недостатки в этом отношении являются общей характеристикой современных подходов к искусственному интеллекту.)

Помимо этих субъективно удовлетворительных объяснений, фреймворк также делает ряд проверяемых прогнозов. Например, важная роль, которую предсказание играет во всей сенсорной иерархии, требует упреждающей нейронной активности в определенных клетках сенсорной коры. Кроме того, ячейки, которые «называют» определенные инварианты, должны оставаться активными в течение всего присутствия этих инвариантов, даже если лежащие в основе входные данные изменяются. Прогнозируемые закономерности восходящей и нисходящей активности - причем первые более сложные, когда ожидания не оправдываются - могут быть обнаружены, например, с помощью функциональной магнитно-резонансной томографии ( фМРТ ).

Хотя эти предсказания не очень специфичны для предлагаемой теории, они достаточно однозначны, чтобы сделать возможной проверку или отклонение ее основных положений. См. Подробности о прогнозах и выводах в разделе « Разведка».

Вклад и ограничения

По замыслу, нынешняя теория основана на работе многочисленных нейробиологов, и можно утверждать, что большинство этих идей уже было предложено такими исследователями, как Гроссберг и Маунткасл. С другой стороны, новое разделение концептуального механизма (т. Е. Двунаправленной обработки и инвариантного распознавания) от биологических деталей (т.е. нейронных слоев, столбцов и структур) закладывает основу для абстрактного мышления о широком спектре когнитивных процессов.

Самым существенным ограничением этой теории является отсутствие в ней деталей. Например, решающую роль играет концепция инвариантности ; Хокинс постулирует «именные ячейки » по крайней мере для некоторых из этих инвариантов. (Смотрите также Neural ансамбль # Encoding для бабушкиных нейронов, которые выполняют этот тип функции, и зеркальных нейронов для соматосенсорной системы точки зрения.) Но это далеко не очевидно, как разработать математически строгое определение, которое будет нести необходимую концептуальную нагрузку поперек домены, представленные Хокинсом. Точно так же полная теория потребует достоверных подробностей как о краткосрочной динамике, так и о процессах обучения, которые позволят кортикальным слоям вести себя так, как рекламируется.

IBM реализует модель Хокинса.

Модели машинного обучения

Теория предсказания памяти утверждает, что общий алгоритм используется всеми областями неокортекса. Теория породила ряд моделей программного обеспечения, направленных на моделирование этого общего алгоритма с использованием иерархической структуры памяти. Год в списке ниже указывает, когда модель была обновлена ​​в последний раз.

Модели на основе байесовских сетей

Следующие модели используют распространение убеждений или пересмотр убеждений в односвязных байесовских сетях.

  • Иерархическая временная память (HTM), модель, связанная платформа разработки и исходный код от Numenta, Inc. (2008).
  • HtmLib, альтернативная реализация алгоритмов HTM Грега Кочаняка с рядом модификаций для повышения точности и скорости распознавания (2008 г.).
  • Project Neocortex, проект с открытым исходным кодом для моделирования фреймворка прогнозирования памяти (2008 г.). Саулюса Гаралевичюса, исследовательские статьи и программы, представляющие экспериментальные результаты с моделью структуры прогнозирования памяти, являющейся основой для проекта Neocortex (2007).
  • Джордж, Дилип (2005). «Иерархическая байесовская модель инвариантного распознавания образов в зрительной коре». CiteSeerX   10.1.1.132.6744. Цитировать журнал требует |journal= ( помощь ) статья соучредителя Numenta, описывающая байесовскую модель до HTM. Это первая модель структуры прогнозирования памяти, в которой используются байесовские сети, и все вышеперечисленные модели основаны на этих начальных идеях. Исходный код Matlab этой модели был свободно доступен для загрузки в течение ряда лет.
  • Другие модели

    • Внедрение MPF, статьи Саулюса Гаралевичюса, описывающей метод классификации и прогнозирования в модели, которая хранит временные последовательности и использует обучение без учителя (2005).
    • M5, машина шаблонов для Palm OS, которая хранит последовательности шаблонов и вызывает шаблоны, относящиеся к ее нынешней среде (2007).
    • BrainGame, класс предикторов с открытым исходным кодом, который изучает закономерности и может быть связан с другими предикторами (2005).
    Смотрите также
    использованная литература
    дальнейшее чтение
    • Джефф Хокинс (2004), Об разведке, Нью-Йорк: Генри Холт. Библиография, указатель, 251 страница. ISBN   0-8050-7456-2
    внешние ссылки
    Последняя правка сделана 2024-01-02 06:54:16
    Содержание доступно по лицензии CC BY-SA 3.0 (если не указано иное).
    Обратная связь: support@alphapedia.ru
    Соглашение
    О проекте