RUS  ENG
Полная версия
ЖУРНАЛЫ // Моделирование и анализ информационных систем // Архив

Модел. и анализ информ. систем, 2017, том 24, номер 5, страницы 521–536 (Mi mais581)

Эта публикация цитируется в 1 статье

Существование несмещенной оценки энтропии для специальной меры Бернулли

Е. А. Тимофеев

Ярославский государственный университет им. П.Г. Демидова, ул. Советская, 14, г. Ярославль, 150003 Россия

Аннотация: Пусть $\Omega = {\mathcal A}^{{\mathbb N}}$ — пространство правосторонних бесконечных последовательностей символов из алфавита ${\mathcal A} = \{0,1\}$, ${\mathbb N} = \{1,2,\dots \} $,
$$ \rho(\boldsymbol{x},\boldsymbol{y}) = \sum_{k=1}^{\infty}|x_{k} - y_{k}|2^{-k} $$
 — метрика на $\Omega$ и $\mu$ — вероятностная мера на $\Omega$. Пусть $\boldsymbol{\xi_0}, \boldsymbol{\xi_1}, \dots, \boldsymbol{\xi_n}$ — независимые случайные точки на $\Omega$, распределенные по мере $\mu$. Будем изучать оценку $\eta_n^{(k)}(\gamma)$ величины обратной к энтропии $1/h$, которая определяется следующим образом:
$$ \eta_n^{(k)}(\gamma) = k \left(r_{n}^{(k)}(\gamma) - r_{n}^{(k+1)}(\gamma)\right), $$
где
$$ r_n^{(k)}(\gamma) = \frac{1}{n+1}\sum_{j=0}^{n} \gamma\left(\min_{i:i \neq j} {^{(k)}} \rho(\boldsymbol{\xi_{i}}, \boldsymbol{\xi_{j}})\right), $$
$\min ^{(k)}\{X_1,\dots,X_N\}= X_k$, if $X_1\leq X_2\leq \dots\leq X_N$. Число $k$ и функция $\gamma(t)$ — вспомогательные параметры. Основной результат работы:
Теорема. Пусть $\mu$ — мера Бернулли с вероятностями $p_0,p_1>0$, $p_0+p_1=1$, $p_0=p_1^2$, тогда существует функция $\gamma(t)$ такая, что
$$ \mathsf{E}\eta_n^{(k)}(\gamma) = \frac1h. $$


Ключевые слова: мера, метрика, энтропия, оценка, несмещенность, самоподобие, мера Бернулли.

УДК: 519.17

Поступила в редакцию: 10.07.2017

DOI: 10.18255/1818-1015-2017-5-521-536



Реферативные базы данных:


© МИАН, 2024