(1.1) x n Mittelineaarse elemendi funktsiooni nimetatakse aktiveerimisfunktsiooniks (activation function, ). Kaalutud sisendsignaalide summast NET arvutab aktiveerimisfunktsioon neuroni väljundi OUT. OUT=f(NET) (1.2) Tavaliselt, aktiveerimisfunktsioon on pidev mittelineaarne funktsioon, aga mõnedel rakendustel võib ka lineaarne olla. Kõige levinumad aktiveerimisfunktsioonid on sigmoid funktsioonid. Sigmoid funktsioonid on ülemise ja alumise raja (0 ja 1 või -1 ja 1) vahel monotoonselt kasvavad pidevad funktsioonid. Nende funktsioonide põhiliseks eesmärgiks on hoida neuronite väljundid mõistlikes piirides. Sigmoid funktsioonide näited on logistiline funktsioon ja hüperboolne tangens: 1. Logistiline funktsioon (logistic function, ): 1
(1.1) x n Mittelineaarse elemendi funktsiooni nimetatakse aktiveerimisfunktsiooniks (activation function, ). Kaalutud sisendsignaalide summast NET arvutab aktiveerimisfunktsioon neuroni väljundi OUT. OUT=f(NET) (1.2) Tavaliselt, aktiveerimisfunktsioon on pidev mittelineaarne funktsioon, aga mõnedel rakendustel võib ka lineaarne olla. Kõige levinumad aktiveerimisfunktsioonid on sigmoid funktsioonid. Sigmoid funktsioonid on ülemise ja alumise raja (0 ja 1 või -1 ja 1) vahel monotoonselt kasvavad pidevad funktsioonid. Nende funktsioonide põhiliseks eesmärgiks on hoida neuronite väljundid mõistlikes piirides. Sigmoid funktsioonide näited on logistiline funktsioon ja hüperboolne tangens: 1. Logistiline funktsioon (logistic function, ): 1
õpetamisalgoritmist, juhuslikust kaalukoefitsientide algväärtuste valikust jne. Kõik need parameetrid valitakse igal konkreetsel juhul empiiriliste teadmiste alusel. Kolmogorovi teoreem: Iga kuubis E astmel n pidev funktsioon avaldub järgmisel kujul: f(x1,...xn)=sumHj(sumFij(xi)), kus Hj ja Fij on reaalarvulised pidevad ühemuutuja funktsioonid. See valem on erijuhtum, kus funktsioonid Hj on närvivõrgu väljundkihi neuronite aktiveerimisfunktsioonid ja Fij on närvivõrgu peidetud kihi neuronite aktiviseerimisfunktsioonid ja peidetud kihi neuronite arv N=2n+1. Modelleerimine tehisnärvivõrkudega: Identifitseerimisülesande püstitus: On antud süsteem, mille funktsioon on tundmatu. Identifitseerimisülesandeks on selle funktsiooni matemaatilise mudeli saavutamine. U on süsteemi ja mudeli sisendväärtus, Y ja Ym on identifitseeritava süsteemi ja selle süsteemi matemaatilise mudeli väljundväärtused