RUS  ENG
Полная версия
ЖУРНАЛЫ // Автоматика и телемеханика // Архив

Автомат. и телемех., 2018, выпуск 11, страницы 106–122 (Mi at14974)

Эта публикация цитируется в 5 статьях

Управление в технических системах

Энтропийная редукция размерности в задачах рандомизированного машинного обучения

Ю. С. Попковabc, Ю. А. Дубновacd, А. Ю. Попковae

a Институт системного анализа Федерального исследовательского центра "Информатика и управление" РАН, Москва
b Брауде Колледж университета Хайфы, Кармиель, Израиль
c Национальный исследовательский университет "Высшая школа экономики", Москва
d Московский физико-технический институт
e Российский университет дружбы народов, Москва

Аннотация: Предлагается метод редукции признакового пространства до заданных размеров, ориентированный на задачи рандомизированного машинного обучения и основанный на процедуре “прямого” и “обратного” проектирования (метод DIP). Матрицы-“проекторы” определяются максимизацией относительной энтропии. Информационные потери при редукции признакового пространства предлагается оценивать абсолютной ошибкой, вычисляемой с использованием функции Кульбака–Ляйблера (метод SRC). Приводится пример, иллюстрирующий указанные методы.

Ключевые слова: энтропия, относительная энтропия, операторы проектирования, матричные производные, градиентный метод, прямые и обратные проекции.

Статья представлена к публикации членом редколлегии: П. С. Щербаков

Поступила в редакцию: 24.01.2018

DOI: 10.31857/S000523100002747-5


 Англоязычная версия: Automation and Remote Control, 2018, 79:11, 2038–2051

Реферативные базы данных:


© МИАН, 2025