Odhad entropie

Odhad entropie je v mnoha oborech užitečný jako odhad diferenciální entropie systémů nebo procesů, který je založen na (jejich) pozorování. Nejjednodušší a nejčastěji používaný je odhad založený na histogramu, avšak jsou používány i jiné přístupy, přičemž každý má své výhody a nevýhody.[1] Hlavním hlediskem při výběru metody je otázka kompromisu mezi tendencí rozptylem odhadu,[2] ale faktorem může být i povaha (podezřelost) distribuce dat.[1]

Reference

  1. ↑ a b J. Beirlant, E. J. Dudewicz, L. Gyorfi, and E. C. van der Meulen (1997) Nonparametric entropy estimation: An overview. In International Journal of Mathematical and Statistical Sciences, Volume 6, pp. 17–39.
  2. ↑ T. Schürmann, Bias analysis in entropy estimation. In J. Phys. A: Math. Gen, 37 (2004), pp. L295–L301.