Распознавание цифр с помощью сетей Хопфилда

                

 
                                             Рис. 2.  Сеть Хопфилда.

Состояние сети — это множество текущих значений сигналов OUT от всех нейронов. В первоначальной сети Хопфилда состояние каждого нейрона менялось в дискретные случайные моменты времени, в последующем - состояния нейронов могли меняться одновременно. Так как выходом бинарного нейрона может быть только ноль или единица (промежуточных уровней нет), то текущее состояние сети является двоичным числом, каждый бит которого является сигналом OUT некоторого нейрона. Задачи, решаемые данной сетью, как правило, формулируются следующим  образом. Известен некоторый набор  двоичных сигналов (изображений, оцифровок  звука, прочих данных, описывающих некие  объекты или характеристики процессов), которые считаются образцовыми. Сеть должна уметь из произвольного  неидеального сигнала, поданного на ее вход, выделить ("вспомнить" по частичной информации) соответствующий  образец (если такой есть) или "дать заключение" о том, что входные  данные не соответствуют ни одному из образцов. В общем случае, любой  сигнал может быть описан вектором , n — число нейронов в сети и размерность входных и выходных векторов. Каждый элемент равен либо 1, либо 0. Обозначим вектор, описывающий k-й образец, через , а его компоненты, соответственно, — , k = 0…m – 1, m— число образцов. Когда сеть распознaет (или "вспомнит") какой-либо образец на основе предъявленных ей данных, ее выходы будут содержать именно его, то есть   Y = , где Y - вектор выходных значений сети:. В противном случае, выходной вектор не совпадет ни с одним образцовым. Если, например, сигналы представляют собой некие изображения, то, отобразив  в графическом виде данные с выхода сети, можно будет увидеть картинку, полностью совпадающую с одной  из образцовых (в случае успеха) или  же "вольную импровизацию" сети (в случае неудачи).     На стадии инициализации  сети весовые коэффициенты синапсов устанавливаются следующим образом:                                                                         (1) Здесь i и j — индексы, соответственно, предсинаптического и постсинаптического нейронов; , — i-й и j-й элементы вектора k-го образца. Алгоритм функционирования сети следующий (p— номер итерации):          1.На входы сети подается неизвестный сигнал. Фактически его ввод осуществляется непосредственной установкой значений аксонов:                                                              (2)           Поэтому обозначение на схеме сети входных синапсов в явном виде носит чисто условный характер. Ноль в скобке справа от означает нулевую итерацию в цикле работы сети.          2.Рассчитывается новое состояние нейронов:                         (3)   и новые значения аксонов                                  (4) где f — активационная функция в виде скачка.          3.Проверка, изменились ли выходные значения аксонов за последнюю итерацию. Если да — переход к пункту 2, иначе (если выходы стабилизировались) — конец процедуры. При этом выходной вектор представляет собой образец, наилучшим образом сочетающийся с входными данными.

 

       

 

 

         8.1 Распознавание цифр с помощью сетей Хопфилда

 

   Возьмем в качестве эталона цифры от 1 до 9. Они представляются векторами размерности 81, содержащими 1 или -1. Эта размерность векторов выбрана не случайно, так как сеть Хопфилда способна распознать примерно 0,15*N образов, здесь N – число нейронов в сети и соответственно размерность вектора образа. Если сеть в конечном состоянии имеет на выходе вектор, не являющийся точной копией одного из эталонных, но очень похожий на некоторый эталонный образ, то программа «узнает» его. То есть на выходе сеть может иметь вектор, который не в точности является одним из эталонных, а в каком-то приближении.

           Пример распознования цифр сетью Хопфилда показан на рис. 3.

 

                  Рис.3. Распознования цифр сетью Хопфилда

 

Пример неудачного распознавания  приведен на рис.4

                        Рис.4. Неудачное распознавание

 

 

                                      

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

                                         Заключение

 

Нейронная сеть Хопфилда —полно-связная нейронная сеть с симметричной матрицей связей, состоящая из 3-х слоёв (входной, слой Хопфилда и выходной).

Сети Хопфилда функционируют до достижения равновесия, когда следующее состояние сети в точности равно предыдущему: начальное состояние является входным образом, а при равновесии получают выходной образ.

Граница ёмкости памяти для сети (то есть количество образов, которое она может запомнить) составляет приблизительно 15% от числа нейронов в слое Хопфилда.  При этом запоминаемые образы не должны быть сильно коррелированны. Размерности входных и выходных сигналов совпадают. Каждый нейрон (спина) системы может принимать одно из двух состояний: -1 или +1. В сети Хопфилда есть обратные связи и из-за этого нужно решать проблему устойчивости.

Сеть Хопфилда можно отнести к классу оптимизирующих сетей (фильтров). Отличительной особенностью фильтров является то, что матрица весовых коэффициентов настраивается детерминированным алгоритмом раз и навсегда, и затем весовые коэффициенты больше не изменяются.

Существуют  3 режима работы сети Хопфилда:

1)    режим фильтрации;

2)    синхронный режим;

3)    асинхронный режим (гарантирует устойчивое состояние сети).

Сеть Хопфилда  может быть использована как ассоциативная память, для решения некоторых задач оптимизации, а также как фильтр (задачи распознавания образов).

 

 

                     

                                          Литература

 

1. Суровцев И.С., Клюкин В.И., Пивоварова Р.П. Нейронные сети. — Воронеж: ВГУ, 1994. — 224с.

2. Уоссермен Ф. Нейрокомпьютерная техника: теория и практика. — М.: Мир, 1992.

3. Медведев В.С., Потемкин В.Г. «Нейронные сети. MATLAB 6», «ДИЛОГ-МИФИ», 2002 г. 496 с.

4. Горбань А.Н. и др. Нейроинформатика. — Электронная публикация.

5. Интернет: Sarle, W.S., ed. (1997), Neural Network FAQ, part 1-7: Introduction, periodic posting to the Usenet newsgroup comp.ai.neural*nets,

URL ftp://ftp.sas.com/pub/neural/FAQ.html.

6. Мкртчян С.О. Нейроны и нейронные сети.(Введение в теорию формальных нейронов) — М.: Энергия, 1971. — 232 с..

7. Гилл Ф.,Мюррей У.,Райт М.Практическая оптимизация.М.:Мир,1985.509 c.

8. Лоскyтов А.Ю., Михайлов А.С. Введение в синергетику. — М.: Наука. Гл. ред. физ.мат. лит.,1990. — 272 с.