Side konspekt 2020 / eksami kordamisküsimused
allikat iseloomustada Shannoni entroopiaga ehk antud informatsiooniallika poolt
toodetava informatsiooni (üllatuse) keskmise hulgaga
Nagu näeme, on kasutatava logaritmi aluseks kaks, seega on ka entroopia
mõõtühikuks bitt.
Sümboli kestus D määrab sümbolikiiruse r = 1/D (ühik sümbolit sekundis ehk
boodi Bd).
Binaarsignaali korral (0 või 1) edastatakse iga sümboliga vaid üks bitt (D = Tb)
ning sümbolikiirus võrdub bitikiirusega ehk infoedastuskiirusega: r = rb
Informatsiooni tekkekiirus –
Kui allika sümbol aj kestab aja Ts vältel, siis väljastatakse uus sümbol iga Ts
sekundi tagant. Sellisel juhul saab öelda, et allika sümbolikiirus on rs = 1/Ts baudi
ehk sümbolit sekundis.
Allika keskmine informatsiooni tekkekiirus R(A) on võrdne entroopia H(A) ja
sümboli kestuse Ts suhtega:
Reaalsete allikate informatsiooni tekkekiirus võib olla väga suur, seega on
annaabi.ee 
