.............33 2 Eessõna Tallinna Tehnikaülikoolis ei õpeta spetsiaalset närvivõrkude kursust. Käesolev õppematerjal on ettenähtud eelkõige info- ja kommunikatsioonitehnoloogia valdkonna üliõpilastele. Ta annab ülevaate tehisnärvivõrkude koostamise printsiipidest ja nende tähtsamatest rakendustest. Erilist tähelepane pööratakse mitmekihilisele pertseptroni struktuurile ja vea tagasilevi meetodile. Iga peatükki lõpus huvitundjatele pakutakse täiendavat kirjandust, kust saab leida rohkem informatsiooni vaadeldava temaatika kohta. 3 1 Tehisnärvivõrgud (artificial neural networks, ) Tänapäeval üks populaarsemaid mõisteid juhtimisteoorias on Närvivõrk. Vaatleme mis on
.............33 2 Eessõna Tallinna Tehnikaülikoolis ei õpeta spetsiaalset närvivõrkude kursust. Käesolev õppematerjal on ettenähtud eelkõige info- ja kommunikatsioonitehnoloogia valdkonna üliõpilastele. Ta annab ülevaate tehisnärvivõrkude koostamise printsiipidest ja nende tähtsamatest rakendustest. Erilist tähelepane pööratakse mitmekihilisele pertseptroni struktuurile ja vea tagasilevi meetodile. Iga peatükki lõpus huvitundjatele pakutakse täiendavat kirjandust, kust saab leida rohkem informatsiooni vaadeldava temaatika kohta. 3 1 Tehisnärvivõrgud (artificial neural networks, ) Tänapäeval üks populaarsemaid mõisteid juhtimisteoorias on Närvivõrk. Vaatleme mis on
Närvivõrke veel võib jagada hetero-assotsiatiivseteks, auto-assotsiatiivseks. Hetero- assotsiatiivsed närvivõrgud on sellised, kus väljundvektori dimensioon ei lange kokku 8 sisendvektori dimensiooniga. Auto-assotsiatiivsed on need närvivõrgud, kus sisendvektori ja väljundvektori dimensioonid langevad kokku. Esimese närvivõrgu arhitektuuri (ühekihilise pertseptroni) pakkus välja 20. sajandi keskel Frank Rosenblatt. See oli silma võrkkesta matemaatiline mudel. Tänapäeval kõige populaarsem närvivõrgu arhitektuur on mitmekihiline pertseptron. Umbes 80% praktiliselt töötavatest närvivõrkude rakendustest kasutavad selle arhitektuuri. Populaarsemad tehisnärvivõrkude arhitektuurid: Otsesuunatuks nimetatakse närvivõrku, milles iga neuroni väljund võib olla seotud ainult järgmisel kihil oleva neuroni sisendiga
sisenditega kui ka eelmiste kihtide neuronite sisenditega. Närvivõrke veel võib jagada hetero-assotsiatiivseteks, auto- assotsiatiivseks. Hetero-assotsiatiivsed närvivõrgud on sellised, kus väljundvektori dimensioon ei lange kokku 8 sisendvektori dimensiooniga. Auto-assotsiatiivsed on need närvivõrgud, kus sisendvektori ja väljundvektori dimensioonid langevad kokku. Esimese närvivõrgu arhitektuuri (ühekihilise pertseptroni) pakkus välja 20. sajandi keskel Frank Rosenblatt. See oli silma võrkkesta matemaatiline mudel. Tänapäeval kõige populaarsem närvivõrgu arhitektuur on mitmekihiline pertseptron. Umbes 80% praktiliselt töötavatest närvivõrkude rakendustest kasutavad selle arhitektuuri. Populaarsemad tehisnärvivõrkude arhitektuurid: Otsesuunatuks nimetatakse närvivõrku, milles iga neuroni väljund võib olla seotud ainult järgmisel kihil oleva neuroni sisendiga
Tagasisidega ehk rekurentsetes võrkudes neuroni väljund võib olla ühendatud nii järgmise kihi kui ka eelmiste kihtide neuronite sisenditega. Lisaks võib närvivõrke veel jagada hetero-assotsiatiivseteksja auto-assotsiatiivseks. Hetero- assotsiatiivsed närvivõrkudes väljundvektori dimensioon ei lange kokku 8 sisendvektori dimensiooniga. Auto-assotsiatiivsetes närvivõrkudes sisendvektori ja väljundvektori dimensioonid langevad kokku. Esimese närvivõrgu arhitektuuri (ühekihilise pertseptroni) pakkus välja 20. sajandi keskel F. Rosenblatt. See oli silma võrkkesta matemaatiline mudel. Tänapäeval kõige populaarsem närvivõrgu arhitektuur on mitmekihiline pertseptron. Umbes 80% praktiliselt töötavatest närvivõrkude rakendustest kasutavad seda arhitektuuri. Populaarsemad tehisnärvivõrkude arhitektuurid: Otsesuunatuks nimetatakse närvivõrku, milles iga neuroni väljund võib olla seotud ainult järgmisel kihil oleva neuroni sisendiga. Mitmekiheline