Презентация на тему "Нейронные сети Хопфилда и Хэмминга"

Содержание

• 
  Слайд 1
  

  Лекция 6. Нейронные сетиХопфилдаиХэмминга Среди различных конфигураций искусственных нейронных сетей (НС) встречаются такие, при классификации которых по принципу обучения, строго говоря, не подходят ни обучение с учителем, ни обучение без учителя. В таких сетях весовые коэффициенты синапсов рассчитываются только однажды перед началом функционирования сети на основе информации об обрабатываемых данных, и все обучение сети сводится именно к этому расчету. Из сетей с подобной логикой работы наиболее известны сеть Хопфилда и сеть Хэмминга, которые обычно используются для организации ассоциативной памяти.

• 
  Слайд 2
  

  Структурная схема сети Хопфилда приведена на Рис. 1. Она состоит из единственного слоя нейронов, число которых является одновременно числом входов и выходов сети. Каждый нейрон связан синапсами со всеми остальными нейронами, а также имеет один входной синапс, через который осуществляется ввод сигнала. Выходные сигналы, как обычно, образуются на аксонах. Рис. 1. Структурная схема сети Хопфилда.

• 
  Слайд 3
  

  Задача, решаемая данной сетью в качестве ассоциативной памяти, как правило, формулируется следующим образом. Известен некоторый набор двоичных сигналов (изображений, звуковых оцифровок, прочих данных, описывающих некие объекты или характеристики процессов), которые считаются образцовыми. Сеть должна уметь из произвольного неидеального сигнала, поданного на ее вход, выделить ("вспомнить" по частичной информации) соответствующий образец (если такой есть) или "дать заключение" о том, что входные данные не соответствуют ни одному из образцов.

• 
  Слайд 4
  

  В общем случае, любой сигнал может быть описан вектором , n – число нейронов в сети и размерность входных и выходных векторов. Каждый элемент равен либо +1, либо -1. Обозначим вектор, описывающий k-ый образец, через , а его компоненты, соответственно, – , k=0...m-1, m – число образцов. Когда сеть распознaет (или "вспомнит") какой-либо образец на основе предъявленных ей данных, ее выходы будут содержать именно его, то есть , где y – вектор выходных значений сети: . В противном случае, выходной вектор не совпадет ни с одним образцовым.

• 
  Слайд 5
  

  На стадии инициализации сети весовые коэффициенты синапсов устанавливаются следующим образом: (1) Здесь i и j – индексы, соответственно, предсинаптического и постсинаптического нейронов; – i-ый и j-ый элементы вектора k-го образца.

• 
  Слайд 6
  

  Алгоритм функционирования сети следующий (p – номер итерации): На входы сети подается неизвестный сигнал. Фактически его ввод осуществляется непосредственной установкой значений аксонов: (2) поэтому обозначение на схеме сети входных синапсов в явном виде носит чисто условный характер. Ноль в скобке справа от означает нулевую итерацию в цикле работы сети.

• 
  Слайд 7
  

  (3) и новые значения аксонов (4) где f – активационная функция в виде скачка, приведенная на Рис. 2а. 2. Рассчитывается новое состояние нейронов Рис. 2

• 
  Слайд 8
  

  3. Проверка, изменились ли выходные значения аксонов за последнюю итерацию. Если да – переход к пункту 2, иначе (если выходы застабилизировались) – конец. При этом выходной вектор представляет собой образец, наилучшим образом сочетающийся с входными данными.

• 
  Слайд 9
  

  Нейронная сеть Хэмминга Рис. 3. Структурная схема сети Хэмминга.

• 
  Слайд 10
  

  Когда нет необходимости, чтобы сеть в явном виде выдавала образец, то есть достаточно, скажем, получать номер образца, ассоциативную память успешно реализует сеть Хэмминга. Данная сеть характеризуется, по сравнению с сетью Хопфилда, меньшими затратами на память и объемом вычислений, что становится очевидным из ее структуры (Рис. 3). Сеть состоит из двух слоев. Первый и второй слои имеют по m нейронов, где m – число образцов. Нейроны первого слоя имеют по n синапсов, соединенных со входами сети (образующими фиктивный нулевой слой). Нейроны второго слоя связаны между собой ингибиторными (отрицательными обратными) синаптическими связями. Единственный синапс с положительной обратной связью для каждого нейрона соединен с его же аксоном.

• 
  Слайд 11
  

  На стадии инициализации весовым коэффициентам первого слоя и порогу активационной функции присваиваются следующие значения: (5) (6) Здесь – i-ый элемент k-ого образца. Весовые коэффициенты тормозящих синапсов во втором слое берут равными некоторой величине 0

• 
  Слайд 12
  

  Алгоритм функционирования сети Хэмминга следующий: 1. На входы сети подается неизвестный вектор , исходя из которого рассчитываются состояния нейронов первого слоя (верхний индекс в скобках указывает номер слоя): (7) После этого полученными значениями инициализируются значения аксоноввторого слоя: (8)

• 
  Слайд 13
  

  2. Вычислить новые состояния нейронов второго слоя: и значения их аксонов: (9) (10) Активационная функцияf имеет вид порога (рис. 2б), причем величина F должна быть достаточно большой, чтобы любые возможные значения аргумента не приводили к насыщению. 3. Проверить, изменились ли выходы нейронов второго слоя за последнюю итерацию. Если да – перейди к шагу 2. Иначе – конец.