Uute parameetrite (kaalukoefitsientide ja nihete) arvutus valitud õpetamisalgoritmi alusel 10.5 Stone-Weierstrassi teoreem väidab ainult seda, et teoreetiliselt eksisteerivad niisugused ideaalsed võrgu parameetrid, et ta aproksimeerib antud funktsiooni mis tahes etteantud täpsusega. Kuna tänapäeval matemaatikas ei ole täpset meetodit mittelineaarse funktsiooni globaalse miinimumi leidmiseks ja kõikide optimeerimismeetodite abil saab leida ainult minimiseeruva funktsiooni lokaalsed miinimumid tegelik närvivõrgu täpsus sõltub väga erinevatest parameetritest: kihtide arvust, neuronite arvust igal peidetud kihil, kasutatavatest neuronite aktiveerimisfunktsioonidest, õpetamisalgoritmist, juhuslikust kaalukoefitsientide algväärtuste valikust jne. Kõik need parameetrid tavaliselt* valitakse igal konkreetsel juhul empiiriliste teadmiste alusel
Trahv on seda suurem, mida suurem on piiririkkumine. Põhimõtteliselt tähendab selle meetodi kasutamine lisatingimustega optimeerimisülesande teisendamist tingimusteta optimeerimisülesandeks. Meetod sobib väga hästi ka võrratusekujuliste lisatingimuste arvestamiseks. Trahvifunktsioon T peab olema kumer, monotoonselt kasvav, kui muutuja y kaugeneb lubatavast piirist ja 0, kui muutuja u asub lubatavas piirkonnas. Trahvifunktsioonide kasutamine halvendab iteratiivsete optimeerimismeetodite koonduvust, kui optimeerimise algoritmid on küllaltki lihtsad. Üldjuhul võivad optimeerimisülesanded sisaldada nii võrrandikujulisi kui ka võrratusekujulisi lisatingimusi. Lagrange'i meetodiga lahendamine: Võrrandite kujul antud piirangutega (tingimuslik) optimeerimisülesanne taandatakse piiranguteta (tingimusteta) optimeerimisülesandeks ja seejärel lahendatakse. 1. Koostada Lagrange funktsioon, leida sadulpunkt, 2. Koostada optimaalsustingimused, 3.
Tänu sellele nad on rakendatavad paljude probleemide lahendamiseks (modelleerimiseks, juhtimiseks, ennustamiseks jne). Stone-Weierstrassi teoreem- teoreem väidab ainult seda, et teoreetiliselt eksisteerivad niisugused ideaalsed võrgu parameetrid, et ta aproksimeerib antud funktsiooni mis tahes etteantud täpsusega. Kuna tänapäeval matemaatikas ei ole täpset meetodit mittelineaarse funktsiooni globaalse miinimumi leidmiseks ja kõikide optimeerimismeetodite abil saab leida ainult minimiseeruva funktsiooni lokaalsed miinimumid tegelik närvivõrgu täpsus sõltub väga erinevatest parameetritest: kihtide arvust, neuronite arvust igal peidetud kihil, kasutatavatest neuronite aktiveerimisfunktsioonidest, õpetamisalgoritmist, juhuslikust kaalukoefitsientide algväärtuste valikust jne. Kõik need parameetrid tavaliselt* valitakse igal konkreetsel juhul empiiriliste teadmiste alusel. Ühe soovituse otsesuunatud kahekihilise
tõkestatud funktsiooni. Analoogiliselt see väide tõestatakse ka teiste peidetud kihi aktiveerimisfunktsioonide jaoks. Näiteks, Gaussi funktsiooni jaoks. Stone-Weierstrassi teoreem väidab ainult seda, et teoreetiliselt eksisteerivad niisugused ideaalsed võrgu parameetrid, et ta aproksimeerib antud funktsiooni mis tahes etteantud täpsusega. Kuna tänapäeval matemaatikas ei ole täpset meetodit mittelineaarse funktsiooni globaalse miinimumi leidmiseks ja kõikide optimeerimismeetodite abil saab leida ainult minimiseeruva funktsiooni lokaalsed miinimumid (vt. peatükk 3), tegelik närvivõrgu täpsus sõltub väga erinevatest parameetritest: kihtide arvust, neuronite arvust igal peidetud kihil, kasutatavatest neuronite aktiveerimisfunktsioonidest, õpetamisalgoritmist, juhuslikust 22 kaalukoefitsientide algväärtuste valikust jne
Õpetamise (optimeerimise) ülesanne seisneb veafunktsiooni minimiseerimisel. Tehisnärvivõrkude teoreetilised alused –Stone-Weierstrassi teoreem, Kolmogorovi teoreem: Stone-Weierstrassi teoreem väidab, et teoreetiliselt eksisteerivad niisugused ideaalsed võrgu parameetrid, et ta aproksimeerib antud funktsiooni mis tahes etteantud täpsusega. Kuna tänapäeval matemaatikas ei ole täpset meetodit mittelineaarse funktsiooni globaalse miinimumi leidmiseks ja kõikide optimeerimismeetodite abil saab leida ainult minimiseeruva funktsiooni lokaalsed miinimumid. Tegelik närvivõrgu täpsus sõltub väga erinevatest parameetritest: kihtide arvust, neuronite arvust igal peidetud kihil, kasutatavatest neuronite aktiveerimisfunktsioonidest, õpetamisalgoritmist, juhuslikust kaalukoefitsientide algväärtuste valikust jne. Kõik need parameetrid valitakse igal konkreetsel juhul empiiriliste teadmiste alusel.
tõkestatud funktsiooni. Analoogiliselt see väide tõestatakse ka teiste peidetud kihi aktiveerimisfunktsioonide jaoks. Näiteks, Gaussi funktsiooni jaoks. Stone-Weierstrassi teoreem väidab ainult seda, et teoreetiliselt eksisteerivad niisugused ideaalsed võrgu parameetrid, et ta aproksimeerib antud funktsiooni mis tahes etteantud täpsusega. Kuna tänapäeval matemaatikas ei ole täpset meetodit mittelineaarse funktsiooni globaalse miinimumi leidmiseks ja kõikide optimeerimismeetodite abil saab leida ainult minimiseeruva funktsiooni lokaalsed miinimumid (vt. peatükk 3), tegelik närvivõrgu täpsus sõltub väga erinevatest parameetritest: kihtide arvust, neuronite arvust igal peidetud kihil, kasutatavatest neuronite aktiveerimisfunktsioonidest, õpetamisalgoritmist, juhuslikust 22 kaalukoefitsientide algväärtuste valikust jne