Теория Хебба

редактировать

Теория Хебба - это нейробиологическая теория, утверждающая, что увеличение синаптических связей эффективность возникает из-за повторяющейся и постоянной стимуляции постсинаптической клетки пресинаптической клеткой. Это попытка объяснить синаптическую пластичность, адаптацию нейронов мозга в процессе обучения. Он был введен Дональдом Хеббом в его книге 1949 года Организация поведения. Теория также называется правилом Хебба, постулатом Хебба и теорией сборки клеток . Хебб утверждает это следующим образом:

Предположим, что постоянство или повторение реверберационной активности (или «следа») имеет тенденцию вызывать длительные клеточные изменения, которые добавляют к ее стабильности.... Когда аксон клетки A находится достаточно близко, чтобы возбуждать клетку B, и неоднократно или постоянно принимает участие в ее возбуждении, в одной или обеих клетках происходит некоторый процесс роста или метаболические изменения, так что эффективность A, поскольку одна из ячеек, запускающих B, увеличивается.

Теорию часто резюмируют как «Ячейки, которые стреляют вместе, соединяются вместе». Однако Хебб подчеркнул, что ячейка A должна «участвовать в запуске» ячейки B, и такая причинность может возникнуть только в том случае, если ячейка A срабатывает непосредственно перед, а не одновременно с ячейкой B. Этот аспект причинной связи в работе Хебба предвещал то, что Теперь известно о пластичности, зависящей от времени всплеска, которая требует временного приоритета.

Теория пытается объяснить ассоциативное или хеббовское обучение, при котором одновременная активация клеток приводит к выраженному увеличению синаптической силы между этими клетками. Он также обеспечивает биологическую основу для безошибочного обучения методов обучения и восстановления памяти. При изучении нейронных сетей когнитивных функций, это часто рассматривается как нейрональная основа неконтролируемого обучения.

Содержание

1 Хеббские энграммы и теория сборки клеток
2 Принципа
3 Обобщение и стабильность
4 Хеббийское обучение внутренней возбудимости
5 Исключения
6 Хеббовское обучение зеркальных нейронов
7 См. Также
8 Ссылки
9 Дополнительная литература
10 Внешние ссылки

Хеббские энграммы и теория сборки клеток

Хеббийская теория касается того, как нейроны могут соединяться друг с другом, чтобы стать инграммами. Теории Хебба о форме и функции клеточных ансамблей могут быть поняты из следующего:

Общая идея старая, что любые две клетки или системы клеток, которые постоянно активны в одно и то же время, будут иметь тенденцию становиться «связанными» 'так что активность в одной способствует активности в другой.

Хебб также писал:

Когда одна клетка многократно помогает активировать другую, аксон первой клетки развивает синаптические выступы (или увеличивает их, если они уже существуют) в контакт с сомой второй клетки.

Гордон Олпорт выдвигает дополнительные идеи относительно теории сборки клеток и ее роли в формировании инграмм, в соответствии с концепцией автоассоциации, описанной следующим образом:

Если входы в систему вызывают повторение одного и того же паттерна активности, и набор активных элементов, составляющих этот паттерн, будет становиться все более прочно взаимосвязанным. То есть каждый элемент будет иметь тенденцию включать все остальные элементы и (с отрицательными весами) отключать элементы, которые не являются частью шаблона. Другими словами, паттерн в целом станет «автоматически связанным». Мы можем назвать выученный (автоматически связанный) паттерн инграммой.

Теория Хебба была первичной основой традиционного взгляда на то, что при анализе с холистического уровня инграммы представляют собой нейронные сети или нейронные сети.

Работа в лаборатории Эрика Кандела предоставила доказательства участия хеббовских механизмов обучения в синапсах морских гастропод Aplysia californica.

Эксперименты на механизмах модификации синапсов Хебба в синапсах центральной нервной системы позвоночных гораздо труднее контролировать, чем эксперименты с относительно простыми синапсами периферической нервной системы, изученными в морские беспозвоночные. Большая часть работы по длительным синаптическим изменениям между нейронами позвоночных (таких как долгосрочная потенциация ) включает использование нефизиологической экспериментальной стимуляции клеток мозга. Однако некоторые из физиологически релевантных механизмов модификации синапсов, которые были изучены в головном мозге позвоночных, действительно кажутся примерами процессов Хебба. В одном из таких исследований рассматриваются результаты экспериментов, которые показывают, что длительные изменения в силе синапсов могут быть вызваны физиологически релевантной синаптической активностью, действующей как через хеббовские, так и негеббовские механизмы.

Принципы

С точки зрения искусственных нейронов и искусственных нейронных сетей принцип Хебба можно описать как метод определения того, как изменить веса между модельными нейронами. Вес между двумя нейронами увеличивается, если два нейрона активируются одновременно, и уменьшается, если они активируются по отдельности. Узлы, которые имеют тенденцию быть одновременно положительными или отрицательными, имеют сильные положительные веса, в то время как те, которые имеют тенденцию быть противоположными, имеют сильные отрицательные веса.

Ниже приводится примерное описание обучения по-хеббийски: (возможно множество других описаний)

wij = xixj {\ displaystyle \, w_ {ij} = x_ {i} x_ {j}}

\,w_{ij}=x_ix_j

где $wij {\ displaystyle w_ {ij}}$ $w_ {ij}$ - это вес соединения нейрона $j {\ displaystyle j}$ $j$ с нейроном $i { \ displaystyle i}$ $i$ и $xi {\ displaystyle x_ {i}}$ $x_ {i}$ вход для нейрона $i {\ displaystyle i}$ $i$ . Обратите внимание, что это обучение по шаблону (веса обновляются после каждого примера обучения). В сети Хопфилда соединения $wij {\ displaystyle w_ {ij}}$ $w_ {ij}$ устанавливаются на ноль, если $i = j {\ displaystyle i = j}$ $i = j$ (рефлексивные соединения не допускаются). С бинарными нейронами (активация 0 или 1) соединения будут установлены на 1, если подключенные нейроны имеют одинаковую активацию для шаблона.

Другое стандартное описание:

wij = 1 p ∑ k = 1 pxikxjk, {\ displaystyle w_ {ij} = {\ frac {1} {p}} \ sum _ {k = 1} ^ {p} x_ {i} ^ {k} x_ {j} ^ {k}, \,}

{\ displaystyle w_ {ij} = {\ frac {1} {p}} \ sum _ {k = 1} ^ {p} x_ {i} ^ {k} x_ {j} ^ { k}, \,}

где $wij {\ displaystyle w_ {ij}}$ $w_ {ij}$ - вес соединение нейрона $j {\ displaystyle j}$ $j$ с нейроном $i {\ displaystyle i}$ $i$ , $p {\ displaystyle p}$ $p$ - это количество тренировок шаблоны и $xik {\ displaystyle x_ {i} ^ {k}}$ $x_ {i} ^ k$ $k {\ displaystyle k}$ $k$ th вход для нейрона $i { \ Displaystyle i}$ $i$ . Это обучение по эпохам (веса обновляются после того, как представлены все обучающие примеры). Опять же, в сети Хопфилда соединения $wij {\ displaystyle w_ {ij}}$ $w_ {ij}$ устанавливаются в ноль, если $i = j {\ displaystyle i = j}$ $i = j$ (без возвратных связей).

Математическая модель обучения Хебба, учитывающая такие явления, как блокирование и многие другие явления нейронного обучения, представляет собой разновидность обучения Хебба. воспроизводит множество биологических явлений, а также прост в реализации.

Обобщение и стабильность

Правило Хебба часто обобщается как

Δ wi = η xiy {\ displaystyle \ Delta w_ {i} = \ eta x_ {i} y}

{\ displaystyle \ Delta w_ {i} = \ eta x_ {i} y}

или изменение $i {\ displaystyle i}$ $i$ th синаптического веса $wi {\ displaystyle w_ {i}}$ $w_{i}$ равно скорости обучения $η {\ displaystyle \ eta}$ $\ eta$ , умноженное на $i {\ displaystyle i}$ $i$ th input $xi {\ displaystyle x_ {i}}$ $x_ {i}$ умноженное на постсинаптический ответ $y {\ displaystyle y}$ $y$ . Часто упоминается случай линейного нейрона,

y = ∑ jwjxj {\ displaystyle y = \ sum _ {j} w_ {j} x_ {j}}

{\ displaystyle y = \ sum _ {j} w_ {j} x_ {j}}

, а упрощение предыдущего раздела требует как скорости обучения и входные веса равны 1. Эта версия правила нестабильна, так как в любой сети с доминирующим сигналом синаптические веса будут увеличиваться или уменьшаться экспоненциально. Однако можно показать, что для любой модели нейрона правило Хебба нестабильно. Таким образом, сетевые модели нейронов обычно используют другие теории обучения, такие как теория BCM, правило Оджи или обобщенный алгоритм Хебби.

Хеббовское обучение внутренней возбудимости

Нейроны также проявляют пластичность в своей собственной возбудимости (внутренняя пластичность ).

Исключения

Несмотря на обычное использование моделей Хебба для долгосрочного потенцирования, существует несколько исключений из принципов и примеров Хебба, которые демонстрируют, что некоторые аспекты теории чрезмерно упрощены. Одно из наиболее хорошо задокументированных исключений касается того, как синаптическая модификация может происходить не только между активированными нейронами A и B, но и с соседними нейронами. Это связано с тем, что модификация Хебба зависит от ретроградной передачи сигналов для модификации пресинаптического нейрона. Соединение, наиболее часто определяемое как выполняющее эту роль ретроградного передатчика, - это оксид азота, который из-за своей высокой растворимости и диффузии часто оказывает влияние на соседние нейроны. Этот тип диффузной синаптической модификации, известный как объемное обучение, счетчики или, по крайней мере, дополняет традиционную хеббовскую модель.

Хеббийский учет обучения зеркальных нейронов

Хеббийское обучение и зависимое от времени спайков пластичность использовалась во влиятельной теории возникновения зеркальных нейронов. Зеркальные нейроны - это нейроны, которые активируются как когда человек выполняет действие, так и когда человек видит или слышит, что другой выполняет аналогичное действие. Открытие этих нейронов оказало большое влияние на объяснение того, как люди понимают действия других, показав, что, когда человек воспринимает действия других, человек активирует моторные программы, которые они будут использовать для выполнения аналогичных действий. Затем активация этих моторных программ добавляет информацию к восприятию и помогает предсказать, что человек будет делать дальше, на основе собственной моторной программы воспринимающего. Задача состояла в том, чтобы объяснить, как у людей появляются нейроны, которые реагируют как на выполнение действия, так и на то, что он слышит или видит, как другой выполняет аналогичные действия.

Кристиан Кейзерс и Дэвид Перретт предположили, что когда человек выполняет определенное действие, он будет видеть, слышать и чувствовать его выполнение. Эти реафферентные сенсорные сигналы будут запускать активность нейронов, реагирующих на вид, звук и ощущение действия. Поскольку активность этих сенсорных нейронов будет последовательно перекрываться во времени с активностью двигательных нейронов, вызвавших действие, обучение Хебби предсказывает, что синапсы, соединяющие нейроны, реагирующие на зрение, звук и ощущение действия, и нейроны, запускающие действие должно быть усилено. То же самое верно, когда люди смотрят на себя в зеркало, слышат, как они болтают или им подражают. После многократного переживания этого переосмысления синапсы, соединяющие сенсорные и моторные представления о действии, становятся настолько сильными, что двигательные нейроны начинают стрелять по звуку или видению действия, и создается зеркальный нейрон.

Доказательства этой точки зрения получены из многих экспериментов, которые показывают, что моторные программы могут запускаться новыми слуховыми или зрительными стимулами после повторного сочетания стимула с выполнением моторной программы (для обзора доказательств см. Giudice et al., 2009). Например, люди, которые никогда не играли на пианино, не активируют области мозга, участвующие в игре на пианино, при прослушивании фортепианной музыки. Доказано, что пяти часов занятий на фортепиано, в которых участник слышит звук фортепиано каждый раз, когда он нажимает клавишу, достаточно, чтобы активировать двигательную активность в области мозга при прослушивании фортепианной музыки, когда ее слышат позже. В соответствии с тем фактом, что пластичность, зависящая от времени спайков, возникает только в том случае, если активация пресинаптического нейрона предсказывает активацию постсинаптического нейрона, связь между сенсорными стимулами и моторными программами также, по-видимому, усиливается, только если стимул зависит от моторной программы.

См. Также

Ссылки

Дополнительная литература

Hebb, DO (1961). «Отличительные особенности обучения у высших животных». В J. F. Delafresnaye (ed.). Мозговые механизмы и обучение. Лондон: Oxford University Press.
Хебб, Д. О. (1940). «Поведение человека после обширного двустороннего удаления лобных долей». Архив неврологии и психиатрии. 44 (2): 421–438. doi : 10.1001 / archneurpsyc.1940.02280080181011.
Бишоп, К. (1995). Нейронные сети для распознавания образов. Оксфорд: Издательство Оксфордского университета. ISBN 978-0-19-853849-3.
Paulsen, O.; Сейновски, Т. J. (2000). «Естественные закономерности активности и долговременная синаптическая пластичность». Текущее мнение в нейробиологии. 10 (2): 172–179. DOI : 10.1016 / S0959-4388 (00) 00076-3. PMC 2900254. PMID 10753798. CS1 maint: ref = harv (ссылка )

Внешние ссылки

Обзор
Учебное пособие по хеббийскому языку (Часть 1 : Фильтрация новинок, Часть 2: PCA )