Автор работы: Пользователь скрыл имя, 10 Февраля 2013 в 11:56, курсовая работа
Целью данного исследования является исследование состояния и перспектив развития нейрокомпьютерных систем.
Основные задачи, поставленные и решенные в данной работе, следующие.
Теоретическое обосновать и исследовать нейрокомпьютерные системы;
Рассмотреть текущее состояние проблемы;
Определить перспективы развития нейрокомпьютерных систем.
Введение
1. Основы нейрокомпьютерных систем
1.1 Основы искусственных нейронных сетей
1.2 Алгоритм обратного распространения
1.3 Нейронные сети Хопфилда и Хэмминга
2. Современные направления развития нейрокомпьютерных технологий в России и зарубежом
2.1 Применение искусственных нейронных сетей в системах управления
2.2 Теория нейронных сетей
2.3 Нейроматематика
2.4 Прикладная нейроматематика
2.5 Нейрочипы и нейрокомпьютеры
2.6 Обзор зарубежных достижений нейрокомпьютерных систем
Заключение
Глоссарий
Список использованных источников
Основой активного развития нейрокомпьютеров является принципиальное отличие нейросетевых алгоритмов решения задач от однопроцессорных, малопроцессорных, а также транспьютерных. Для данного направления развития вычислительной техники не так важен уровень развития отечественной микроэлектроники, поэтому оно позволяет создать основу построения российской элементной базы суперкомпьютеров.
Сегодня начинает расширяться сфера коммерческой деятельности в области нейрокомпьютеров или подобных им систем, в частности: нейропакеты; нейроплаты (CNAPS и другие); нейрокомпьютеры (Sinapse и другие); видеокурсы; нейросетевые системы управления электроэррозионными станками; охранные системы с нейросетевыми алгоритмами выделения движущихся объектов; системы "электронного ключа" с распознаванием отпечатков пальцев, рисунка радужной оболочки глаза; экспертная система G2 (1)
Анализ зарубежной научно-технической литературы в области перспективных средств обработки информации, использующих элементы искусственного интеллекта (ИИ), свидетельствует о дальнейшем развитии исследований и разработок, направленных на создание и аппаратное внедрение нейроподобных сетей. Данную ситуацию можно объяснить двумя объективными причинами. Во-первых, проведенные по широкому фронту исследования обнаружили ряд практических областей, в которых применение нейроинтеллекта позволяет получить эффективные результаты даже при условии программной реализации НПС на базе традиционной вычислительной техники. Во-вторых, успехи в области цифровой и аналоговой микроэлектроники обеспечили реальность создания нейрочипов, позволяющих в полном объеме реализовать возможности параллельной и распределенной обработки информации, характерных для НПС.
Компания Loral Space Information System развивает нейроэмулятор собственной разработки NET (Neural Emulation Tool), который используется в качестве ускорителя персональной вычислительной техники. Эмулятор выполнен в двух модификациях - сопроцессора и памяти.net - процессор содержит четыре 32-разрядных чипа сигнальных процессоров с плавающей точкой TMS 320C30 компании Texas Instruments. В нем реализованы различные нейросетевые парадигмы.net - память выполнена на одном чипе [15].
Характерный пример реализации НПС на современной мультипроцессорной ЭВМ описан в работе. На транспьютерной ЭВМ Computing Surfase была реализована многослойная НПС, обучающаяся по методу обратного распространения ошибки. ЭВМ содержала 32 транспьютера с 4 Мбайт памяти в каждом узле. При реализации НПС обеспечивалось равномерное распределение нейронов по транспьютерным узлам с обеспечением симметрии связей. В результате удалось получить скорость моделирования трехслойной НПС до 1,8 млн. переключений связей/с при общем числе нейронов до 5040, а связей - до 5 644 800.
В работе [13]
описывается реализация трехслойной
НПС с 256 нейронами и 131072 связями
на специализированном клеточном процессоре
ААР-2 фирмы NTT. Процессор ААР-2 содержит
65536 процессорных элементов. Каждый процессорный
элемент представляет собой совокупность
однобитного АЛУ, 144-битного регистрового
файла и 8 Кбит локальной памяти.
При обучении НПС была показана скорость
18 млн. переключений связей/с, что в
45 раз быстрее, чем на высокопроизводительной
универсальной ЭВМ IBM-3090. Следует
отметить, что размер моделируемой
сети был ограничен объемом
Фирмой Intel совместно с фирмой Nestor разработана СБИС NI1000 [14], которая ориентирована на решение задач распознавания на основе вероятностных НПС и НПС, реализующих алгоритмы окон Парзена. СБИС позволяет проводить распознавание со скоростью 40 тыс. образов/с при тактовой частоте 40 МГц или 20 млрд. коротких операций с 5 битными данными в секунду и 160 млн. операций с запятой/с. Образ представляется вектором с размерностью до 256 и разрядностью элемента вектора 5 бит. Характеристики этого нейрочипа в настоящее время являются рекордными в данном классе реализаций НПС.
Американской фирмой Intel разработан и серийно выпускается специализированный аналоговый нейрочип ETANN (80170NX). Он представляет собой электрически перепрограммируемую аналоговую НПС, со средствами для программирования весовых коэффициентов и других параметров. Микросхема смонтирована на 208-выводном корпусе типа PGA.
Основной прирост производительности обеспечивается за счет применения параллельного аналогового перемножения входных сигналов на весовые коэффициенты НПС. Максимальная производительность достигается при реализации НПС с прямым распространением сигналов - 2 млн. связей/с.
От аналогичных
разработок ETANN отличается законченностью
архитектуры НПС достаточно большого
размера, реализуемой одной микросхемой,
и частичной реализацией
Рассмотрим архитектуру нейрочипа. Внутри аналогового НЧ 80170NХ размещены 64 аналоговых нейрона-сумматора. На входе и выходе НЧ расположены матрицы синаптических элементов размерностью 80 х 60. Они обеспечивают умножение входных сигналов НПС на хранящиеся весовые коэффициенты. Максимальная размерность НПС, реализуемая отдельным кристаллом равна 64. Максимально возможное число входных сигналов в этой сети - 128 на один нейрон. Матрицы 14 х 64 используются для задания начальных смещений нейронов. Нейрочип имеет встроенные средства для реализации некоторых алгоритмов обучения. Возможно использование НЧ для обработки цифровых сигналов в смешанной среде.
Корпорация Formulab Neoronetics (Уэст-Перт, Австралия) разработала нейрокомпьютер, быстродействие которого значительно выше, чем у существующих персональных компьютеров (ПК) [3]. Благодаря интуитивному визуальному интерфейсу, программирование для новой машины (Richter Paradigm Computer), моделирующей деятельность мозга и обучаемой пользователем, осуществляется просто и быстро.
Компьютер, содержащий 896 RISC-процессоров, выполняет приложения, основанные на технологии нейронной сети, в 180 раз быстрее, чем машина на базе процессора Pentium/166. В компьютере применены новые объектно-специфические архитектура и система адресации, обеспечивающие повышение скорости, гибкости и отказоустойчивости системы.
Вместе с
компьютером разработано
Поскольку Richter Paradigm Computer может быть адаптирован к решению в реальном времени множества разнообразных задач, он представляет собой нечто большее, чем экспертная система или нейросеть. Систему можно расширять, наращивая число процессоров.
Важным компонентом новой технологии является плата Richter Paradigm Neurocard.
Если ее установить в ПК или подсоединить его к внешнему порту, ПК превратится в настоящую “думающую" машину.
Руководство корпорации уверено, что благодаря невысокой стартовой цене:
Richter Paradigm Computer - 3 тыс. долларов;
платы Richter Paradigm View - 300 долларов;
ПО Richter Paradigm Neurocard - 90 долларов;
новая, способная “мыслить” машина (на разработку которой ушло более 14 лет) будет пользоваться значительным спросом.
Одна из разработок фирмы Siemens Nixdorf - специализированный компьютер Synaps1, который разработчики слишком смело назвали НК [4]. За счет масштабируемой мультипроцессорной архитектуры, архитектуры памяти, использования сигнальных процессоров, выполняющих наиболее интенсивные вычислительные операции, разработчикам удалось добиться производительности компьютера, равной нескольким миллиардам соединений (умножений и сложений) в секунду. Благодаря этим аспектам, становится возможной реализация большого спектра приложений, выходящих за рамки классических информационных технологий, включая моделирование деятельности мозга и органов чувств человека, решение комплексных вопросов оптимизации и управления, разработку самообучаемых и экспертных систем, то есть тех задач, которые составляют проблематику современной теории НПС.
Ориентация аппаратных и инструментальных программных средств Synaps1 на решение задач в нейросетевом исполнении, а так же архитектурная способность к наращиванию мощности и подключению внешних устройств “очувствления”, позволяют выделить эту вычислительную систему в отдельный класс специализированных вычислительных систем, подготовленных к быстрому прототипированию любых, даже самых сложных НПС, тестированию концепций и созданию нейроимитаций, доведению разработок до готового коммерческого продукта.
Приведенные сведения подтверждают реальность создания нейрокомпьютерных средств уже сегодня на базе интегральной цифровой микроэлектроники, что дает дополнительный стимул развития теоретических исследований, направленных на поиск решений широкого круга практических задач на основе нейросетевых парадигм вычислений.
Искусственные
нейронные сети служат универсальным
и эффективным средством
С позиций современной теории автоматического управления применение МНС как регуляторов объектов адекватно задачам, возникающим в тех нередких случаях, когда аналитический синтез системы управления становится весьма трудоемкой задачей из-за сложности или недостоверности используемой математической модели объекта. Такая ситуация неизбежна, если объект - многосвязный и содержит нелинейности, а его функционирование сопровождается неконтролируемыми изменениями во времени его динамических свойств.
Состояние теории искусственных нейронных сетей и их применение отражено в огромном числе работ и реализовано главным образом за рубежом: в коммерческих программных средствах научного и прикладного характера. Немалое их число составляют работы по применению сетей для автоматического управления. Наибольшая часть из них посвящена применению МНС для управления движением роботов и манипуляторов. В этих случаях объект описывается статическими уравнениями, а обучение сети осуществляется для заданных, как правило, классов траекторий движения.
Проблемам управления
динамическими объектами с
Искусственные нейронные сети и, в частности, многослойные сети прямого распространения служат мощным средством формирования управляющих воздействий на нелинейные объекты в условиях неполноты информации. В этом смысле применение нейросетей для управления в линейных динамических системах хотя и возможно, но действительно эффективное применение нейронных средств (нейроконтроллеров и нейрокомпьютеров) просматривается прежде всего для управления нелинейными объектами. Однако управление нелинейным объектом с помощью нелинейного нейросетевого контроллера порождает весьма сложную динамическую систему, синтез и анализ которой при выбранных целевых условиях требует нетрадиционных подходов и методов.
№ п/п |
Понятие |
Определение |
1 |
Автоассоциативная сеть |
многослойная нейронная сеть прямого распространения сигнала, обученная выдавать входные данные на выходе. |
2 |
Архитектура нейронной сети |
способ организации и связи отдельных элементов нейросети (нейронов). |
3 |
Алгоритм обучения Кохонена |
алгоритм обучения "без учителя", предусматривающий подстройку синапсов на основании их значений от предыдущей итерации. |
4 |
Ассоциативная память |
свойство нейронной сети восстанавливать предъявленный слегка измененный образ, например, с наложенным шумом или содержащий лишь важную часть исходного образа. |
5 |
Выходная звезда (Аутстар,Outstar) |
фрагмент нейронных сетей, предложенный и использованный Гроссбергом во многих нейросетевых моделях. Состоит из нейрона, управляющего группой весов. |
6 |
Нейронная сеть |
вычислительная или логическая схема, построенная из однородных процессорных элементов, являющихся упрощенными функциональными моделями нейронов. |
7 |
Нейробионика |
научное направление, изучающее возможность
использования принципов |
8 |
Нейрокибернетика |
научное направление, изучающее основные закономерности организации и функционирования нейронов и нейронных образований. Основным методом нейрокибернетики является математическое моделирование, при этом данные физиологического эксперимента используются в качестве исходного материала для создания моделей. |
9 |
Нейрокомпьютер |
компьютер, созданный на основе нейронных сетей. |
10 |
Нейронные модели памяти и обучения |
модели нейронных сетей, направленные на изучение их способности к формированию следов памяти и извлечению записанной информации. |
11 |
Сеть Хемминга (Классификатор по минимуму расстояния Хемминга) |
нейронная сеть ассоциативной памяти, принцип работы которой основан на вычислении расстояния Хемминга от входного вектора до всех векторов-образцов, известных сети. |
12 |
Сеть Хопфилда (адресуемая по содержанию ассоциативная память, модель Хопфилда) |
нейронная сеть, состоящая из одного слоя нейронов, каждый из которых связан синапсами со всеми остальными нейронами, а также имеет один вход и один выход. |
13 |
Синапс - в нейронных сетях |
связь между формальными нейронами. Выходной сигнал от нейрона поступает в синапс, который передает его другому нейрону. Сложные синапсы могут иметь память. |
14 |
Сумматор - в нейронных сетях |
блок, суммирующий сигналы, поступающие от нейронов через синапсы. В общем случае сумматор может преобразовывать сигналы и передавать их нейронам или сумматорам тоже через синапсы. |
15 |
Теория адаптивного резонанса (адаптивная резонансная теория, ART) |
теория Гроссберга и Карпентера в которой изучайтся модели, направленные на решение дилеммы устойчивости-пластичности т.е. обучения новым знаниям без разрушения уже существующих. |
16 |
Формальный нейрон |
в нейронных сетях - процессорный элемент, преобразователь данных, получающий входные данные и преобразующий их в соответствии с заданной функцией и параметрами. Формальный нейрон работает с дискретным временем. |