Нейрондық желілер

 

 

 

 

 

    Реферат  

Тақырыбы:  Нейрондық желілер

                                   

                                                 Орындаған:

                                                              Тексерген:

 

 

 

 

 

 

 

                                    Жоспар

 

1.  Кіріспе
2. Нейрондық желілер

2.1 Нейродинамиканың дамуы

2.2 Тікелей байланысты нейрондық желі

2.3 Семантикалық нейрондық желілер

2.4 Нейрондық желілердің артықшылықтары

  3. Қорытынды

  4. Пайдаланылған әдебиеттер

 

 

 

 

 

 

 

 

 

 

 

 

 

 

                                                      Кіріспе

          Нейрондық желі, нейрожелі, жасанды нейронды желі — өлшенген байланыс сызықтарымен жалғастырылған салыстырмалы түрде онша күрделі емес өндеуші элементтерден тұратын желі. Элементтер әсер ету мен баптауға рұқсаты бар байланыс желілерімен жалғастырылған. Ал әрбір элемент кейбір сызықтық емес функцияның кіріске түскен мәнін қолдана отырып, кейбір мәнді өндіреді және өндірілген мәнді басқа бір элементке береді немесе оны өзінің шығысына орналастырады. Нейрондық желі нерв жүйесіндегі нейрондардың қимылын модельдеу үшін қолданылады. Еске алынған сызықтық емес функция, әдетте, босағалық болып саналады.

Жалпы биологиялық прототип негізінде  жасалған жасанды нейрон желісінің  алғаш математикалық моделі У. Маккалок пен У. Питтс ғалымдары шығарды, олар оны биологиялық нейрон, яғни биологиялық прототип негізінде  құрылған желілер нейрондарына қарап  ойлап тапты. Осы ғалымдардың айтуынша: осы желідегі элементтерде сандық және логикалық опенрацияларды жасауға болады. Практикалық түрде желі 1958 жылы компьютерлік программа сияқты Фрэнк Розенблатт дейтін ғалыммен басталды, нәтижесінде электронды құрылғы ретінде – перцептрон түрінде жасалды. Алғашында нейрон тек логикалық нөл мен логикалық бірліктің сигналдарын ғана өндей алды, себебі ол биологиялық прототип негізінде жасалған еді, ал ол тек екі күйде ғана бола алады – қоздырылған немесе қоздырылмаған. Нейрон желілердің одан сайын дамуы мынаны көрсетті: олардың қолданылу аясын кеңейту үшін нейрон тек бинарлы сигналдармен шектелмей, олармен қатар үздіксіз (аналогты) сигналдармен де жұмыс жасауы қажет. Нейронның мұндай жалпылау анықтамасы Уидроу мен Хоффом ғалымдарымен жасалды, олар нейрон жүзеге асудың функциясы ретінде логистикалық қисықты қолдану мүмкіндігін ұсынд

 

 

 

                                             

 

Нейрондық желілер

2.1  Нейродинамиканың дамуы

Нейрокибернетиканың дамуына үлкен  қарқын берген американдық нейрофизиолог  Френк Розенблатт болып табылады. Ол 1962 жылы нейрондық желінің өз моделі – персептронды ұсынды. Алғашында үлкен энтузиазммен қабылданған ол кейін ірі ғылыми беделді кісілердің интенсивті шабуылына ұшырады. Олардың дәлелдерінің талдануы Розенблатт ұсынған персептронды сынамағандары көрсетіп тұрса да, нейрондық желілер бойынша ірі зерттеулер 10 жылға дейін тоқтатылды. Бұған қарамастан 70–жылдары көптеген қызықты дүниелер ұсынылды. Мысал ретінде когнитронды айтуға болады, ол жеткілікті күрделі бейнелерді суреттің масшатбының өзгерісі мен бұрылуына тәуелсіз түрде жақсы тани алады. 1982 жылы американдық биофизик Дж. Хопфилд нейрондық желінің дербес моделін ұсынды, ол өз атымен аталды. Келесі жылдары көптеген тиімді алгоритмдер табылды: қарама қарсы ағын желісі, екі жақты ассоциативті жады, т.б. Нейрондық желілерде білімдер нейротәрізді элементтердің (немесе жай ғана нейрондар) жиынының күйінде және олардың арасындағы байланыстарда сақталады

     Мак–Каллок–Питтс нейронының қазіргі кезде де жеке нейронды сипаттау үшін қолданылып жүрген формалды моделі 1–суретте көрсетілген.

 

Мак–Каллок – Питтс нейронының формалды моделі

 

_1-сурет 

 

 Мұндағы xi – нейронның i кірісіндегі (синапс) сигнал;

 wi – нейронның i кірісіндегі (синапс) салмақ;

y – нейронның шығысы;

h – нейронның жұмыс жасау табалдырығы.

 

 Моделде нейронның кірісіндегі сигналдар сомасы h табалдырықты мәнімен салыстырылып, егер ол сол мәннен артық болса, шығыста сигнал қалыптасады. Нейрондардың қазіргі моделдерінде табалдырықты функция жжалпы жағдайда беру функциясы немесе нейронды белсенді ету функциясы деп аталатын сызықты емес y=f(S) функциясымен алмастырылады.

Нейрондық желінің шығуы мына формуламен есептеледі:

мұндағы k – 0-ден L-ға дейінгі өсетін ағымдағы қабық,

P -  (k-1) алдындағы қабықтың нейронының  саны,

I – ағымдағы қабықтағы нейронның  индексі,

J – алдындағы қабықтағы нейронның  индексі,

xi – кіру бейнесінің пикселі,

yki – k қабығының шығу мәні,

wij – jk-1 және jk нейронын байланыстыратын  салмақ.

 

 

 

 

 

 

2.2   Тікелей байланысты нейрондық желі

Белгілі бір түрде байланысқан  нейрондардан қандай да бір кірістер және шығыстар саны бар нейрондық  желі құрылады. Әдетте түйіндердің (нейронддардың) үш типін ажыратады – кіріс (нейрондардың кіріс қабаты немесе Input layer), шығыс (шығыс қабат немесе Output layer) және жасырын қабаттар (Hidden layers) (2–сурет).

 

 

 

Нейрондық желінің жұмысы екі кезеңнен тұрады: желіні кіріс ақпаратқа (кіріс  вектор) «дұрыс» немесе адекватты  жауап беруге үйрету және оқытылған желіні кіріс векторларын тану үшін қолдану. Соңғы кезеңді жиі жағдайда тестілеу деп атайды. Басқаша айтқанда, желі кіріс векторларды тануға, яғни кіріс векторлардың танылған класына сай келетін шығыс векторларды жасауға үйретіледі. Бұл кезде кіріс векторларының шығыс векторларына сәйкестігіне қатысты білімдер синапстардың салмағы мен нейрондардың табалдырығында сақталады. Коннективистік тәсіл жағдайында (коннекцианизм) – тек қана синапстардың салмағында сақталады. Кейде кіріс векторы ретінде кіріс және шығыс векторларының конкатенациясы түсінеміз, және бұл вектордың барлық разряды желіні оқыту және тестілеуді пайдаланылмауы мүмкін. Нейрондық желілердің кейбір моделдерінде (мысалы, Хопфилд моделі) кіріс және шығыс сигналдар ажыратылмайды және оларға сәйкес кірістер (шығыстар) желінің жұмысы барысында рольдерімен алмаса алады.

                         

 2.3 Семантикалық нейрондық желілер

 Семантикалық нейрондық желілер.  В 1957 жылы, Джон фон Нейман нейрондық желінің персептрондық нейрондық желіден мүлдем бөлек архитекруасын жасады. Оның берілген жұмыс үшін маңызды болып табылатын қасиеттері келесі болып табылады

 — Нейрон кіріс сигналдарын өңдейтін қандай да бір қарапайым құрылғы. Түпнұсқада коньюнкция, дизъюнкция және инверсиялар қолданылған.

 — Нейрон орындалатын функцияны динамикалық түрде өзгерте алады. Бір нейрон әртүрлі уақытта әртүрлі функцияларды орындай алады. Уақыттың бір мезетінде – мүмкін болатын функцияларддың біреуін ғана орындай алады.

 — Нейрон басқа нейрондармен байланысуын динамикалық түрде өзгерте алады.

 — Нейрондық желінің бір бөлігі желінің басқа бөлігінің күйіне талдау жасай алады.

 — Нейрондық желінің бір бөлігі желінің басқа бөлігінің топологиясын өзгерте алады.

 Функциялардың математикалық толық жиынында олардың күрделілігі тек есептеу тиімділігінде көрініс табады. Фон Нейман өз жұмысында көрсеткендей, мұндай нейрондық желі Тьюринг машинасына эквиваелентті болып табылады.

 Бұл кезде тек қана бірдеңгейлі метаөтілім керек, оның нәтижесінде мұндай нейрондық желі Тьюринг машинасына эквивалентті ақырлы автоматты және программалы таспаны тікелей жүзеге асырады.

 Фон Нейман желісінде бастысы – нейрон орындайтын функция емес. Бастысы – өздік рефлекс пен өздік модификацияға қабілеттілік болып табылады.

 Мысалы, желіде қандай да бір құрылым қалыптасты делік. Сипатталып отырған желіде нейрондық желінің бір бөлігі басқа бөліктің құрылымына талдау жасай алады. Сосын осы талдаудың негізінде қандай да бір шешімдерді қабылдап нейрондардың типтерін немесе байланыстарға өзгеріс енгізе алады.

 Нейрондық желінің бір бөлігі нейрондық желінің басқа бөлігін жеке нейрон–ұяшықтарға динамикалық түрде бқатынас құра отырып, олардың күйін оқып, немесе өзгерту арқылы жады банкісі ретінде пайдалана алады.

 ДНҚ молекуласы мен мұндай автоматтағы таспа аналогиясын жүргізу қызық. Оның үстіне, нейрондық желінің бір бөлігі «құрастырушы жең» шығарып, жеке нейрондардан кейбір функцияны орындайтын құрылғыны жинай алады.

 Бұл кезде «таспада» орналасқан жады негізінде нейрондық желінің қандай да бірбөлігі құралатын ДНҚ ретінде қолданылады.

 Семантикалық нейронддық желілер мен фон Нейманның идеяларын осы желілерге қолдану барысында пайда болатын салдарларды қарастырайық.

— Семантикалық нейрондық желі қазіргі  есептеу техникасының жабдықтарымен  тиімді жүзеге асырыла алады.

 — Семантикалық нейрондық  желі жасаушының постулатталған  еркіндігінің арқасында Тьюринг  машинасына эквивалентті. Бұл оның  негізінде Тьюринг машиналарында  есептелінетін кез–келген функцияны  есептейтін жүйені жасауға болады. Мысалы, мұндай желі жеке жағдай  ретінде қатені кері тарататын  көпқабатты персептронды моделдей  алады. 

 — Осылайша персептронның  нейрондарын мұндай желінің қосу, көбейту және белсендіру функциясын  жеке жеке орындайтын дербес  нейрондарынан құрастыруға болады.

 — Персептронды оқыту алгоритмін  мұндай желінің персептронға  сай келетін үзіндісін талдайтын  және өзгертетін жеке үзіндісі  ретінде жүзеге асыруға болады.

 — Семантикалық нейрондық  желі шаршылы автоматқа эквивалентті болып табылады.

 Фон Нейман желісінде байланыстар  топологиясына шектеу қойылады  және тек логикалық мәндер  ғана өңделеді. Фон Нейман желісінің негізінде құрылған семантикалық нейрондық желіде байланыстар топологиясына шектеу жоқ және нақты емес мәндерді өңдеу орындалады. Фон Нейман желісіндегі барлық нейрондар тактілермен синхрондалады. Семантикалық нейрондық желілерде синхрондалған және синхрондалмаған нейрондар бар. Фон Нейман желісінен айырмашылығы, семантикалық нейрондық желілерде нейрондардың топологиясына шек қойылмайды, бұл фон Нейман жасағандай нейрондардың қатыстық адрестелуін мүмкін емес етеді. Бұл жағдайда абсолютті адрестеуді енгізу керек.

2.4 Нейрондық желілердің артықшылықтары

Нейронды желілердің, ақпаратты-логикалық  өңдеулердің әмбебап құралы ретіндегі  қосымша артықшылықтары мынадай:

1. Нейронды желілер өз табиғатында  сызықсыз болғандықтан, төтенше  қиын тәуелділіктерді модельдеуде  ауқымды мүмкіндіктерге ие. Бірнеше  жылдар бойы көптеген салаларда  модельдеудің негізгі тәсілі  сызықтық модельдеу болып келді,  себебі ол үшін тиімділік процедуралары  жақсы өңделді. Сызықтық аппроксимация  қанағаттандырылмайтын есептерде  сызықтық модельдер тиімсіз. Сонымен  қатар, нейронды желілер «өлшем»  ұғымымен жақсы үйлеседі, ал айнымалылар  санының үлкен жағдайында сызықтық  тәуелділіктер модельденбейді;

2. Нейрондық желілерді қолданушы бастапқы берілгендерді таңдап алады, содан соң автоматты түрде берілгендер құрылымын қабылдайтын оқыту алгоритмін қосады. Бұл жағдайда қолданушыдан берілгендерді қалай таңдау және дайындау, желінің қажетті құрылымын таңдау және нәтижелерді интерпретациялау үшін белгілі бір эвристикалық білім жиынтығы талап етіледі.

 

 

 

 

 

 

 

 

                                              

 Қорытынды

 

Бағдарламалық және оқу-әдістемелік  базаны кешенді түрде қарастырған  ыңғайлы, себебі таңдалған бағдарламалық  орта, курсты құру ерекшеліктері, оқытуға  дайындық бағыттары қатар анықталады. Қазіргі уақытта нейроинформатика үшін бағдарламалық орта спектрі  үш негізгі бағытта қарастырылады. Біріншісі: белгілі бір ортадағы есептерді шешуге бағытталған жасанды нейрожелілер көптеген бағдарлама-эмуляторлары арқылы берілген. Мұндай бағдарламалық орта деп мыналарды айта аламыз: Cube200, NeuroOffice, негізінен кең көлемді берілгендерді жедел талдауға арналған, NeuroShell2, экономика-қаржылық талдау есептерін шешу үшін қолданылады, SOM, Neural Net Wisard және басқа да көптеген түрлері бар. Екінші бағыт: жасанды нейрожелілердің нақты ортадағы есептеулерінің барлық мүмкіншіліктерін бейнелейді және желінің өзі мен оның жұмыс жасауына қажетті компоненттерімен бірге нейрокомпьютердің сәулетін құраушы мамандандырылған орта болып табылады. Мұндай бағыт кешенді қасиетке ие, себебі әртүрлі мәселелерді шешуді: нейрокомпьютингте есептеудің жедел ортасын оқыту мен зерттеу, есептеу ортасында жұмыс тәсілдерін оқыту қолданушының қолданбалы есептерді өзіндік шешуі т.б. қамтамасыз етеді. Үшінші бағыт: қазіргі кезде жеткілікті түрде дамыған. жасанды нейрожелілердің жұмыс құралының белгілі бір компоненті ретінде ендірілген кешенді пакеттер түрінде ұсынылады. Мысал ретінде Matlab математикалық есептеулер үшін қызмет жасайтын кешенді пакетті алуға болады. жасанды нейрожелілердің нақты процестерінің ерекшеліктерін, олар үшін берілгендерді дайындауды және т.б. жасыра отырып, осы сияқты құралдар желілермен жұмыс жасау үшін ыңғайлы интерфейсті, жұмыс жасаудағы көрнекілік, соңғы нәтиженің қарапайымдылығын береді. Мұндай бағыт, жасанды нейрожелілерді қолдану ерекшеліктерімен таныс және мәселелі есептерді шешудің бір құралы ретінде қолданатын мамандарды дайындау үшін рұқсат етіледі.

 

 

 

 Пайдаланылған әдебиеттер

1.     Головко В.А. Нейроинтеллект: Теория и применения. Книга 1. Организация  и обучение нейронных сетей  с прямыми и обратными связями - Брест:БПИ, 1999. 160 б.

2.   Уоссермен Ф. Нейрокомпьютерная техника: Теория и практика. 1992. 84

4.    8  Каллан Р. Основные концепции нейронных сетей. — Рrentice Hall, Наи, 2003.