Hartleyova funkce

Hartleyova funkce, kterou zavedl v roce 1928 americký vynálezce Ralph Hartley, je jedním ze způsobů měření neurčitosti. Pro zadanou konečnou množinu A je funkce dána vzorcem: : H_0(A) := \mathrm{log}_b \vert A \vert , kde \vert A \vert značí mohutnost množiny A.

Je-li základem logaritmu hodnota 2, pak je výsledná jednotka neurčitosti označována shannon. Jedná-li se o přirozený logaritmus o základu e, pak je výsledná jednotka neurčitosti označována nat. +more Sám Hartley používal desítkový logaritmus od základu 10, proto je při použití desítkového logaritmu vzniklá jednotka neurčitosti nazývána hartley.

Vztah k entropii

Hartleyova funkce je jednoduchou definicí entropie, přičemž na rozdíl od ostatních definic ani nevyužívá pravděpodobnost.

Pro případ diskrétního rovnoměrného rozdělení odpovídá Hartleyova funkce definici Shannonovy entropie. Je zároveň zvláštním případ Rényiovy entropie, konkrétně případem s parametrem rovným 0: :H_0(X) = \frac 1 {1-0} \log \sum_{i=1}^

Charakterizace Hartleyovy funkce

Protože Hartleyova funkce závisí pouze na počtu prvků v množině, jedná se vlastně o zobrazení z přirozených čísel. Lze ukázat, že Hartleyova funkce (o základu 2) je jedinou funkcí z přirozených čísel do reálných čísel splňující následující tři podmínky:

# H(mn) = H(m)+H(n) (aditivita) # H(m) \leq H(m+1) (monotónnost) # H(2)=1 (normalizace)

Reference

Kategorie:Teorie informace