· infoallika X elementaartähtede esinemiste tõenäosused on: a = 0,45 b = 0,15 c = 0,2 d = 0,2 Moodustada antud allikast piisavalt suur liitallikas ja kodeerida see liitallikas Sannon Fano koodiga. Kodeerida selle koodiga järjestus: abdbcbdacbdabcdacbcda Arvutada: a) Liht- ja liitallika entroopiad b) Liht- ja liitallika maksimaalsed entroopiad c) Liht- ja liitallika liiasused d) Infotekkekiirus allikast e) Arvutada koodi liiasus Lahendus: a) Lihtallika entroopia H(X): H(X) = - ja N = 4 H2(X) = -[0,45*log20,45 + 0,15*log20,15 + 2*(0,2*log20,2)] = (0,5184 0,4106 0,9288) = (1,8578) = 1,858 bitti b) Lihtallika maksimaalne entroopia Hmax(X): Hmax(X) = lognN = log24 = 2 c) Lihtallika liiasus U(X): U(X) = = 0,071*100% = 7% d) Lihtallika infotekkekiirus R(X): R(X) = = = 1858000 = 1,858
Ülesanne 1. On antud diskreetne infoallikas, mille tähed on statistiliselt sõltumatud ja tähtede pikkused on samad ja võrdsed τ1. Allikas on väljastanud tähtede jada X: (vt. lisa) a) Koostada allika seisundite tabel. Arvutada : b) Liht- ja liitallika entroopiad c) Liht- ja liitallika maksimaalsed entroopia d) Liht- ja liitallika liiasused e) Infotekkekiirus allikast. f) Moodustada antud allikast M tähest koosneva liitallika ja kodeerida see liitallikas K koodiga. Leida koodipuu. g) Arvutada koodi liiasus h) Kodeerida selle koodiga kolmandik esimesest reast. Ülesanne 2. Leida sümmeetrilise kahendkanali läbilaskevõime (Binary Symmetric Channel), kui sümboli vigasuse tõenäosus on ja sümboli periood on τ1. Koodsõna pikkus on n = N sümbolit. Jaotada need sümbolid
Infoallika ja edastuskanali kirjeldused käituvad ühtsetes ühikutes. Infoallika teated esinevad mingi juhuslikkusega. Kanali läbilaskevõime on kanali väljundis saadava info hulga ülemine piir ajaühikus. Infoallikat iseloomustavad: infoallika entroopia, infotekke kiirus Edastuskanalit iseloomustavad: kanali läbilaskevõime, sümboli vigasuse tõenäosus kanalis; Põhiteoreem: R(x) CK , 0, siis on olemas selline kooder, et vigasuse tõenäosus läheneb nullile. R(x) on infotekkekiirus Ck kanali läbilaskevõime 2. Diskreetsed infoallikad. Erinevad liigid. Kirjeldused. (Slaidid: paragrahv 1 slaidid 14-17 ja paragrahv 2) Diskreetne viitab sellele, et teateid on lõplik arv. Diskreetsed infoallikad on: 1) lihtallikad koosneb sümbolitest, on mäluga ja mäluta allikad Kui üks sümbol ei mõjuta järgmiste esinemise tõenäosust on tegemist mäluta allikaga, näiteks tekst on mäluga allikas.