Предиктивное кодирование

редактировать

Предиктивное кодирование (также известное как прогнозная обработка ) - это теория функции мозга, в которой мозг постоянно генерирует и обновляет мысленную модель окружающей среды. Модель используется для создания прогнозов сенсорного ввода, которые сравниваются с фактическим сенсорным вводом. Это сравнение приводит к ошибкам прогноза, которые затем используются для обновления и пересмотра ментальной модели.

Содержание
  • 1 Происхождение
  • 2 Общая структура
    • 2.1 Точное взвешивание
    • 2.2 Активный вывод
  • 3 Нейронная теория в прогнозирующем кодировании
  • 4 Применение прогнозирующего кодирования
    • 4.1 Восприятие
    • 4.2 Интероцепция
    • 4.3 Проблемы
  • 5 См. Также
  • 6 Ссылки
Происхождение

Теоретические предки предсказательного кодирования восходят к 1860 году с концепции бессознательного вывода Гельмгольца. Под бессознательным выводом понимается идея о том, что человеческий мозг заполняет визуальную информацию, чтобы понять сцену. Например, если что-то относительно меньше другого объекта в поле зрения, мозг использует эту информацию как вероятный сигнал глубины, так что воспринимающий в конечном итоге (и непроизвольно) ощущает глубину. Понимание восприятия как взаимодействия между сенсорными стимулами (снизу вверх) и концептуальным знанием (сверху вниз) продолжало укрепляться Джеромом Брунером, который, начиная с 1940-х годов, изучал способы удовлетворения потребностей, мотивации и ожидания влияют на восприятие, исследование, которое стало известно как психология «нового взгляда». В 1981 г. МакКлелланд и Румелхарт в своей основополагающей статье исследовали взаимодействие между элементами обработки (линиями и контурами), которые образуют буквы, которые, в свою очередь, образуют слова. Хотя эти особенности предполагают присутствие слова, они обнаружили, что, когда буквы располагались в контексте слова, люди могли идентифицировать их быстрее, чем когда они находились в неслове без семантического контекста. Модель параллельной обработки Макклелланда и Рамелхарта описывает восприятие как встречу нисходящих (концептуальных) и восходящих (сенсорных) элементов.

В конце 1990-х идея нисходящей и восходящей обработки была преобразована в вычислительную модель зрения Рао и Баллардом. Их статья продемонстрировала, что может существовать генеративная модель сцены (нисходящая обработка), которая будет получать обратную связь через сигналы ошибок (насколько визуальный ввод отличается от прогноза), что впоследствии приведет к обновлению прогноза. Вычислительная модель смогла воспроизвести хорошо известные эффекты рецептивного поля, а также менее изученные внеклассические эффекты рецептивного поля, такие как торможение. Сегодня области информатики и когнитивной науки включают те же концепции для создания многоуровневых генеративных моделей, лежащих в основе машинного обучения и нейронных сетей.

Общая основа

Большая часть исследовательской литературы в этой области был о сенсорном восприятии, в частности о зрении, которое легче концептуализируется. Однако структура прогнозирующего кодирования также может применяться к различным нейронным системам. Взяв в качестве примера сенсорную систему, мозг решает, казалось бы, неразрешимую проблему моделирования дистальных причин сенсорного ввода с помощью версии байесовского вывода. Он делает это путем моделирования предсказаний сенсорных входов более низкого уровня через обратные связи с относительно более высоких уровней корковой иерархии. Ограниченный статистическими закономерностями внешнего мира (и некоторыми эволюционно подготовленными прогнозами), мозг кодирует нисходящие генеративные модели в различных временных и пространственных масштабах, чтобы предсказывать и эффективно подавлять сенсорные сигналы, поднимающиеся с более низких уровней. Сравнение между предсказаниями (априорными) и сенсорным входом (правдоподобие) дает меру различия (например, ошибку предсказания, свободную энергию или неожиданность), которая, если она достаточно велика, превышая уровни ожидаемого статистического шума, приведет к обновлению генеративной модели. так что он лучше предсказывает сенсорную информацию в будущем.

Если вместо этого модель точно предсказывает управляющие сенсорные сигналы, активность на более высоких уровнях нейтрализует активность на более низких уровнях, и апостериорная вероятность модели увеличивается. Таким образом, прогнозирующее кодирование меняет общепринятый взгляд на восприятие как на восходящий процесс, предполагая, что оно в значительной степени ограничено предыдущими прогнозами, когда сигналы из внешнего мира формируют восприятие только в той степени, в которой они распространяются вверх по корковой иерархии в форма ошибки прогноза.

Прецизионное взвешивание

Ожидания относительно точности (или обратной дисперсии) входящего сенсорного ввода имеют решающее значение для эффективной минимизации ошибки прогнозирования, поскольку ожидаемая точность данной ошибки прогнозирования может сообщить уверенность в этой ошибке, который влияет на степень взвешивания ошибки при обновлении прогнозов. Учитывая, что мир, в котором мы живем, наполнен статистическим шумом, ожидания точности должны быть представлены как часть генеративных моделей мозга, и они должны иметь возможность гибко адаптироваться к изменяющимся контекстам. Например, ожидаемая точность ошибок визуального предсказания, вероятно, варьируется от рассвета до заката, так что ошибкам средь бела дня приписывается большая условная достоверность, чем ошибкам предсказания при наступлении темноты. Недавно было предложено, что такое взвешивание ошибок прогнозирования пропорционально их предполагаемой точности, по сути, является вниманием, и что процесс уделения внимания может быть достигнут нейробиологически с помощью восходящих ретикулярных активирующих систем (ARAS), оптимизирующих «усиление» прогнозирования. единицы ошибки.

Активный вывод

Тот же принцип минимизации ошибок предсказания был использован для обеспечения учета поведения, в котором двигательные действия являются не командами, а нисходящими проприоцептивными предсказаниями. В этой схеме активного вывода классические рефлекторные дуги скоординированы таким образом, чтобы выборочно производить выборку сенсорного ввода способами, которые лучше соответствуют прогнозам, тем самым минимизируя ошибки проприоцептивного прогнозирования. Действительно, Адамс и др. (2013) рассматривают доказательства, свидетельствующие о том, что этот взгляд на иерархическое предсказательное кодирование в двигательной системе обеспечивает принципиальную и нервно правдоподобную основу для объяснения агранулярной организации моторной коры. Эта точка зрения предполагает, что «перцептивные и моторные системы не следует рассматривать как отдельные, а вместо этого как единую активную машину логического вывода, которая пытается предсказать свои сенсорные входы во всех областях: зрительной, слуховой, соматосенсорной, интероцептивной и, в случае моторной системы., проприоцептивное ".

Нейронная теория в прогнозирующем кодировании

Оценка эмпирических данных, предлагающих неврологически правдоподобную основу для прогнозирующего кодирования, - обширная и разнообразная задача. С одной стороны, и в соответствии с моделью прогностическое кодирование происходит на каждом итеративном этапе перцептивных и когнитивных процессов; соответственно, проявления предсказательного кодирования в мозге включают генетику, конкретную цитоархитектуру клеток, системные сети нейронов и анализ всего мозга. Из-за этого диапазона специфичности разные методы исследования нейронных механизмов прогнозирующего кодирования применялись там, где они были доступны; однако в более общем плане и, по крайней мере, применительно к людям, Существуют значительные методологические ограничения для исследования потенциальных доказательств, и большая часть работы основана на компьютерном моделировании микросхем в головном мозге. Тем не менее, была проведена значительная (теоретическая) работа, которая была применена для понимания механизмов прогнозирующего кодирования в мозге. В этом разделе основное внимание будет уделено конкретным свидетельствам, связанным с феноменом прогнозирующего кодирования, а не аналогами, такими как гомеостаз (которые, тем не менее, являются неотъемлемой частью нашего общего понимания байесовского вывода, но уже сильно поддерживаются; см. Обзор Кларка).

Большая часть ранних работ, в которых применялась структура предсказательного кодирования к нейронным механизмам, исходила от сенсорных нейронов, особенно в зрительной коре.

Однако в более общем плане то, что, по-видимому, требует теория представляют собой (по крайней мере) два типа нейронов (на каждом уровне перцепционной иерархии): один набор нейронов, кодирующих входящие сенсорные данные, так называемые проекции с прямой связью; один набор нейронов, которые отправляют прогнозы, так называемые проекции с обратной связью. Важно отметить, что эти нейроны также должны обладать свойствами обнаружения ошибок; какой класс нейронов обладает этими свойствами, все еще обсуждается. Такого рода нейроны нашли поддержку в поверхностных и неповерхностных пирамидных нейронах.

На более общем уровне мозга есть свидетельства того, что разные корковые слои (также известные как пластинки) могут способствовать интеграции прямых и обратных проекций по иерархиям. Эти корковые слои, разделенные на гранулярные, агранулярные и дисгранулярные, в которых находятся субпопуляции нейронов, упомянутые выше, делятся на 6 основных слоев. Цитоархитектура в этих слоях одинакова, но они различаются по слоям. Например, слой 4 зернистой коры содержит гранулярные клетки, которые являются возбуждающими и распределяют таламокортикальные входы в остальную часть коры. Согласно одной модели:

«... предсказывающие нейроны... в глубоких слоях агранулярной коры управляют активным выводом, посылая сенсорные предсказания через проекции... в супрагранулярные слои дисгранулярной и гранулярной сенсорной коры. Нейроны с ошибкой предсказания… в надгранулярных слоях зернистой коры вычисляют разницу между предсказанным и полученным сенсорным сигналом и посылают сигналы с ошибкой предсказания через проекции… обратно в глубокие слои агранулярных областей коры. Ячейки точности... динамически настраивают выигрыш от предсказаний и ошибок предсказания, тем самым придавая этим сигналам уменьшенный (или, в некоторых случаях, больший) вес в зависимости от относительной уверенности в убывающих предсказаниях или надежности входящих сенсорных сигналов ».

В Таким образом, нейронные доказательства все еще находятся в зачаточном состоянии.

Применение кодирования с предсказанием

Восприятие

Эмпирические данные о кодировании с предсказанием наиболее надежны для обработки восприятия. Еще в 1999 году Рао и Баллард предложили иерархическую модель визуальной обработки, в которой зрительная область коры более высокого порядка отправляет прогнозы, а прямые связи несут остаточные ошибки между прогнозами и фактическими действиями нижнего уровня. Согласно этой модели, каждый уровень в сети иерархической модели (кроме самого низкого уровня, который представляет изображение) пытается предсказать ответы на следующем более низком уровне через соединения обратной связи, и сигнал ошибки используется для корректировки оценки входных данных. сигнал на каждом уровне одновременно. Эмберсон и др. установили модуляцию сверху вниз у младенцев, используя кросс-модальную парадигму аудиовизуального упущения, определив, что даже младенческий мозг ожидает от будущих сенсорных входов, которые передаются вниз по потоку от зрительной коры, и способен к обратной связи, основанной на ожиданиях. Данные функциональной ближней инфракрасной спектроскопии (fNIRS) показали, что младенец затылочной коры реагировал на неожиданное визуальное упущение (без ввода зрительной информации), но не на ожидаемое зрительное упущение. Эти результаты показывают, что в иерархически организованной системе восприятия нейроны более высокого порядка посылают предсказания нейронам более низкого порядка, которые, в свою очередь, посылают обратно сигнал ошибки предсказания.

Интероцепция

Было несколько конкурирующих моделей роли прогнозирующего кодирования в интероцепции.

В 2013 году Анил Сет предположил, что состояния наших субъективных ощущений, иначе известные как эмоции, генерируются прогностическими моделями, которые активно строятся на основе причинно-следственной интероцептивной оценки. В отношении того, как мы связываем внутренние состояния других с причинами, Саша Ондобака, Джеймс Килнер и Карл Фристон (2015) предположили, что принцип свободной энергии требует, чтобы мозг производил непрерывную серию предсказаний с целью уменьшения количества предсказаний. ошибка, которая проявляется как «свободная энергия». Эти ошибки затем используются для моделирования предвосхищающей информации о том, каким будет состояние внешнего мира, и объяснения причин этого мирового состояния, включая понимание причин поведения других. Это особенно необходимо, потому что для создания этих атрибутов нашим мультимодальным сенсорным системам нужны интероцептивные предсказания, чтобы организовать себя. Таким образом, Ондобака утверждает, что предсказательное кодирование является ключом к пониманию внутреннего состояния других людей.

В 2015 году Лиза Фельдман Барретт и У. Кайл Симмонс (2015) предложили модель Embodied Predictive Interoception Coding, структуру, которая объединяет принципы байесовского активного вывода с физиологической структурой кортикокортикальных связей. Используя эту модель, они постулировали, что агранулярная висцеромоторная кора отвечает за создание прогнозов интероцепции, таким образом, определяя опыт интероцепции.

В 2017 году, вопреки индуктивному представлению о том, что категории эмоций биологически различны, Барретт (2017) предложил теорию сконструированной эмоции, которая представляет собой представление о том, что категория биологической эмоции конструируется на основе концептуальной категории - накопление экземпляров, разделяющих цель. В модели прогнозирующего кодирования Барретт выдвигает гипотезу о том, что при интероцепции наш мозг регулирует наши тела, активируя «воплощенные симуляции» (полные представления сенсорного опыта), чтобы предвидеть то, что наш мозг предсказывает, что внешний мир бросит на нас сенсорно и как мы ответим на это действием. Эти симуляции либо сохраняются, если, основываясь на предсказаниях нашего мозга, они хорошо подготавливают нас к тому, что на самом деле впоследствии происходит во внешнем мире, либо они и наши предсказания корректируются, чтобы компенсировать их ошибку по сравнению с тем, что на самом деле происходит во внешнем мире. мир и насколько хорошо мы были к нему подготовлены. Затем, в процессе корректировки методом проб и ошибок, наши тела обнаруживают сходство целей в определенных успешных симуляторах упреждения и группируют их в концептуальные категории. Каждый раз, когда возникает новый опыт, наш мозг использует эту прошлую историю корректировки методом проб и ошибок, чтобы сопоставить новый опыт с одной из категорий накопленных исправленных симуляций, с которыми он больше всего похож. Затем они применяют исправленное моделирование этой категории к новому опыту в надежде подготовить наши тела к остальному опыту. Если это не так, прогноз, моделирование и, возможно, границы концептуальной категории пересматриваются в надежде на более высокую точность в следующий раз, и процесс продолжается. Барретт предполагает, что, когда ошибка прогнозирования для определенной категории симуляций для x-подобных опытов сведена к минимуму, в результате получается симуляция с корректировкой, которую тело будет воспроизводить для каждого x-подобного опыта, что приведет к полному представление чувственного опыта - эмоции. В этом смысле Барретт предлагает конструировать наши эмоции, потому что структура концептуальных категорий, которую наш мозг использует для сравнения нового опыта и выбора соответствующей прогностической сенсорной симуляции для активации, строится на ходу.

Проблемы

В соответствии с механистической теорией прогнозирующее кодирование физиологически не отображено на нейронном уровне. Одной из самых больших проблем для теории была неточность того, как именно работает минимизация ошибок предсказания. В некоторых исследованиях увеличение сигнала ЖИРНЫЙ интерпретируется как сигнал ошибки, в то время как в других оно указывает на изменения во входном представлении. Ключевой вопрос, который необходимо решить, заключается в том, что именно является сигналом ошибки и как он вычисляется на каждом уровне обработки информации. Еще одна проблема, которая была поставлена, - это вычислительная управляемость прогнозирующего кодирования. По словам Квистхаута и ван Роя, подвычисления на каждом уровне структуры прогнозного кодирования потенциально скрывают вычислительно трудноразрешимую проблему, которая сводится к «непреодолимым препятствиям», которые разработчикам компьютерного моделирования еще предстоит преодолеть. Рэнсом и Фазельпур (2015) указывают «Три проблемы для теории прогнозирующего кодирования внимания».

Дальнейшие исследования могут быть сосредоточены на выяснении нейрофизиологического механизма и вычислительной модели прогнозирующего кодирования.

См. Также
Ссылки
  1. ^McClelland, JL Rumelhart, DE (1981). «Интерактивная модель активации контекстных эффектов в восприятии письма: I. Изложение основных выводов». Психологический обзор. 88 (5): 375–407. doi : 10.1037 / 0033-295X.88.5.375.
  2. ^ Раджеш П. Н. Рао и Дана Х. Баллард. (1999). Предиктивное кодирование в зрительной коре: функциональная интерпретация некоторых внеклассических эффектов рецептивного поля. Nature Neuroscience 2, 79 - 87. doi : 10.1038 / 4580
  3. ^Хинтон, Г. Э. (2007). Изучение нескольких уровней представления. Тенденции в когнитивных науках, 11 (10), 428–434. doi : 10.1016 / j.tics.2007.09.004
  4. ^ Кларк, А. (2013). Что дальше? Прогнозирующий мозг, расположенные агенты и будущее когнитивной науки. Поведенческие науки и науки о мозге, 36 (03), 181–204.
  5. ^Фельдман, Х., Фристон, К. (2010). Внимание, неуверенность и свободная энергия. Границы нейробиологии человека, 4, 215.
  6. ^Hohwy, J. (2012). Внимание и сознательное восприятие в мозге для проверки гипотез. Внимание и сознание в разных смыслах, 74.
  7. ^ Фристон К. (2009). Принцип свободной энергии: приблизительный путеводитель по мозгу ?. Тенденции в когнитивных науках, 13 (7), 293–301.
  8. ^ Адамс, Р. А., Шипп, С., Фристон, К. Дж. (2013). Предсказания, а не команды: активный вывод в двигательной системе. Структура и функции мозга, 218 (3), 611–643.
  9. ^Больц, Дж., И Гилберт, К. Д. (1986). Генерация торможения концов в зрительной коре через межслойные связи.
  10. ^Костер-Хейл, Джори; Сакс, Ребекка (4 сентября 2013 г.). «Теория разума: проблема нейронного прогнозирования». Нейрон. 79 (5): 836–848. doi : 10.1016 / j.neuron.2013.08.020. ISSN 0896-6273.
  11. ^ Сет, А. К. (2013). Интероцептивный вывод, эмоция и воплощенное я. Тенденции в когнитивных науках, 17 (11), 565–573. doi : 10.1016 / j.tics.2013.09.007
  12. ^Барретт, Л. Ф., и Симмонс, В. К. (2015). Интероцептивные предсказания в мозге. Nature Reviews Neuroscience, 16 (7), 419–429. doi : 10.1038 / nrn3950
  13. ^Эмберсон, Л. Л., Ричардс, Дж. Э. и Эслин, Р. Н. (2015). Нисходящая модуляция в мозге младенца: ожидания, вызванные обучением, быстро влияют на сенсорную кору в 6 месяцев. Слушания Национальной академии наук Соединенных Штатов Америки, 112 (31), 9585–9590. doi : 10.1073 / pnas.1510343112
  14. ^Ондобака, С., Килнер, Дж., И Фристон, К. (2017). Роль интероцептивного вывода в теории разума. Мозг и познание, 112, 64–68. doi : 10.1016 / j.bandc.2015.08.002
  15. ^Барретт, Л. Ф. (2017). Теория сконструированной эмоции: активный вывод интероцепции и категоризации. Социальная когнитивная и аффективная нейробиология, 12 (1), 1-23. doi : 10.1093 / scan / nsw154
  16. ^Барретт, Л.Ф. (2017). Как возникают эмоции: тайная жизнь мозга. Нью-Йорк: Houghton Mifflin Harcourt. ISBN 0544133315
  17. ^ Кого, Н., и Тренгов, К. (2015). Достаточно ли сформулирована теория предсказательного кодирования, чтобы ее можно было проверить? Frontiers in Computational Neuroscience, 9, 111. doi : 10.3389 / fncom.2015.00111
  18. ^Бастос, AM, Usrey, WM, Adams, RA, Mangun, GR, Fries, P., Фристон, KJ (2012). Канонические микросхемы для прогнозирующего кодирования. Нейрон 76, 695–711.
  19. ^Квистхаут, Дж., Ван Рой, И. (2019). Требования к вычислительным ресурсам прогнозирующего байесовского мозга. Comput Brain Behav. doi : 10.1007 / s42113-019-00032-3
  20. ^Рэнсом М. и Фазельпур С. (2015). Три проблемы теории предиктивного кодирования внимания. http://mindsonline.philosophyofbrains.com/2015/session4/three-problems-for-the-predictive-coding-theory-of-attention/
Последняя правка сделана 2021-06-02 04:29:32
Содержание доступно по лицензии CC BY-SA 3.0 (если не указано иное).
Обратная связь: support@alphapedia.ru
Соглашение
О проекте