RUS  ENG
Полная версия
ЖУРНАЛЫ // Моделирование и анализ информационных систем // Архив

Модел. и анализ информ. систем, 2019, том 26, номер 2, страницы 267–278 (Mi mais678)

Эта публикация цитируется в 2 статьях

Theory of computing

Существование несмещенной состоятельной оценки энтропии для специальной меры Бернулли

Е. А. Тимофеев

Ярославский государственный университет им. П.Г. Демидова, ул. Советская, 14, г. Ярославль, 150003 Россия

Аннотация: Пусть $\Omega = \mathcal{A}^{\mathbb{N}}$ — пространство правосторонних бесконечных последовательностей символов из алфавита $\mathcal{A} = \{0,1\}$, $\mathbb{N} = \{1,2,\dots \} $,
$$ \rho(\boldsymbol{x},\boldsymbol{y}) = \sum_{k=1}^{\infty}|x_{k} - y_{k}|2^{-k} $$
— метрика на $\Omega$, и $\mu$ — вероятностная мера на $\Omega$. Пусть $\boldsymbol{\xi_0}, \boldsymbol{\xi_1}, \dots, \boldsymbol{\xi_n}$ — независимые случайные точки на $\Omega$, распределенные по мере $\mu$. Будем изучать оценку $\eta_n^{(k)}(\gamma)$ — величину обратной к энтропии $1/h$, которая определяется следующим образом.
$$ \eta_n^{(k)}(\gamma) = k \left(r_{n}^{(k)}(\gamma) - r_{n}^{(k+1)}(\gamma)\right), $$
где
$$ r_n^{(k)}(\gamma) = \frac{1}{n+1}\sum_{j=0}^{n} \gamma\left(\min_{i:i \neq j} {^{(k)}} \rho(\boldsymbol{\xi_{i}}, \boldsymbol{\xi_{j}})\right), $$
$\min ^{(k)}\{X_1,\dots,X_N\}= X_k$, если $X_1\leq X_2\leq \dots\leq X_N$. Число $k$ и функция $\gamma(t)$ — вспомогательные параметры. Основной результат работы
Теорема. Пусть $\mu$ — мера Бернулли с вероятностями $p_0,p_1>0$, $p_0+p_1=1$, $p_0=p_1^2$, тогда $\forall \varepsilon>0$ существует непрерывная функция $\gamma(t)$ такая, что
$$ \left|\mathsf{E}\eta_n^{(k)}(\gamma) - \frac1h\right| <\varepsilon,\quad \mathsf{Var}\,\eta_n^{(k)}(\gamma)\to 0,\ n\to\infty. $$


Ключевые слова: мера, метрика, энтропия, оценка, несмещенность, самоподобие, мера Бернулли.

УДК: 519.2

Поступила в редакцию: 06.05.2019
Исправленный вариант: 22.05.2019
Принята в печать: 24.05.2019

DOI: 10.18255/1818-1015-267-278



© МИАН, 2025