täpsus või võrgu väljundi täpsus lakkab paranemast (s.t. veafunktsioon on saavutanud lokaalse miinimumi). Õpialgoritmi valik sõltub kasutatavas närvivõrgust (erinevad õpialgoritmid erinevate närvivõrgu arhitektuuride jaoks) ja lahendatavast probleemist. Järgnevas vaatleme lühidalt kõige levinumaid õpialgoritme. Enamuses otsesuunatud ja tagasisidestatud närvivõrkude rakendustes kasutatakse nn. vea pöördlevi meetodid, kus igal sammul võrgu väljund võrreldakse sisendvektorile vastava etalonväljundiga ja selle vea alusel muudetakse parameetrid väljundist sisendini. Kõige levinum nendest meetoditest on "Gradient vea pöördlevi meetod". 1.4.1 Gradient vea pöördlevi meetod (Gradient descent error backpropagation method, ) See meetod põhineb veafunktsiooni (ehk kaofunktsiooni) gradienti arvutamisel. Võrgu õpetamise ülesannet võib vaadelda kui mitmemõõtelist optimeerimisülesannet. Defineerime veafunktsiooni:
täpsus või võrgu väljundi täpsus lakkab paranemast (s.t. veafunktsioon on saavutanud lokaalse miinimumi). Õpialgoritmi valik sõltub kasutatavas närvivõrgust (erinevad õpialgoritmid erinevate närvivõrgu arhitektuuride jaoks) ja lahendatavast probleemist. Järgnevas vaatleme lühidalt kõige levinumaid õpialgoritme. Enamuses otsesuunatud ja tagasisidestatud närvivõrkude rakendustes kasutatakse nn. vea pöördlevi meetodid, kus igal sammul võrgu väljund võrreldakse sisendvektorile vastava etalonväljundiga ja selle vea alusel muudetakse parameetrid väljundist sisendini. Kõige levinum nendest meetoditest on "Gradient vea pöördlevi meetod". 1.4.1 Gradient vea pöördlevi meetod (Gradient descent error backpropagation method, ) See meetod põhineb veafunktsiooni (ehk kaofunktsiooni) gradienti arvutamisel. Võrgu õpetamise ülesannet võib vaadelda kui mitmemõõtelist optimeerimisülesannet. Defineerime veafunktsiooni:
vektorid koos müraga (rikutud vektorid) ja närvivõrk peab leidma ja andma väljundile temale vastava originaalse vektori (ilma mürata). On ilmne, et selle ülesande puhul võrgu sisendite arv peab olema võrdne tema väljundite arvuga. Autoassotsiatsiooni ülesande lahendamiseks kasutatakse iseõppimise algoritme (unsupervised learning). Autoassotsiatsiooni kõige tähtsamaks rakenduseks on andmete filtreerimine. Heteroassotsiatsioon erineb autoassotsiatsioonist selles, et igale sisendvektorile on vastavusse pandud oma väljundvektor, mis võib temast erineda. Heteroassotsiatsiooni puhul ei pea juba võrgu sisendite arv olema võrdne tema väljundite arvuga ja võib kasutada õpetamise algoritme. 3. Mustrite klassifitseerimine Selle ülesande puhul peab olema etteantud fikseeritud klasside arv. Iga muster (sisendvektor) kuulub ühele (või mitmele) nendest klassidest. Närvivõrgu õppimiseks mustrite klassifitseerimiseks võib kasutada nii õpetamise kui ka iseõppimise algoritme.