RUS  ENG
Полная версия
ЖУРНАЛЫ // Проблемы передачи информации // Архив

Пробл. передачи информ., 2019, том 55, выпуск 3, страницы 21–29 (Mi ppi2293)

Эта публикация цитируется в 2 статьях

Теория информации

Оптимальные верхние границы для дивергенции конечномерных распределений при заданном вариационном расстоянии

В. В. Прелов

Институт проблем передачи информации им. А.А. Харкевича РАН

Аннотация: Рассматривается задача о нахождении максимальных значений дивергенций $D(P\parallel Q)$ и $D(Q\parallel P)$ дискретных распределений вероятностей $P$ и $Q$ со значениями на конечном множестве $\mathcal{N}=\{1,2,\ldots,n\}$ при условии, что задано вариационное расстояние $V(P,Q)$ между ними и заданы либо распределение вероятностей $Q$, либо (в случае $D(P\parallel Q)$) лишь значение минимальной компоненты $q_{\min}$ распределения $Q$. Получены точные выражения для указанных максимумов дивергенций, которые в ряде случаев позволяют выписать для них как явные формулы, так и простые верхние и нижние границы, причем для максимума $D(P\parallel Q)$ при заданных $V(P,Q)$ и $q_{\min}$, а также для максимума $D(Q\parallel P)$ при заданных $Q$ и $V(P,Q)$ явные формулы получены для всех возможных значений этих параметров.

Ключевые слова: информационная дивергенция, вариационное расстояние, дискретные распределения вероятностей.

УДК: 621.391.1 : 519.2

Поступила в редакцию: 21.05.2019
После переработки: 03.07.2019
Принята к печати: 05.07.2019

DOI: 10.1134/S0555292319030021


 Англоязычная версия: Problems of Information Transmission, 2019, 55:3, 218–225

Реферативные базы данных:


© МИАН, 2024