RUS  ENG
Полная версия
ЖУРНАЛЫ // Вестник Удмуртского университета. Математика. Механика. Компьютерные науки // Архив

Вестн. Удмуртск. ун-та. Матем. Мех. Компьют. науки, 2018, том 28, выпуск 2, страницы 260–274 (Mi vuu637)

КОМПЬЮТЕРНЫЕ НАУКИ

Neural networks with dynamical coefficients and adjustable connections on the basis of integrated backpropagation

[Нейронные сети с динамическими коэффициентами и перестраиваемыми связями на основе интегрированного обратного распространения]

M. N. Nazarov

National Research University of Electronic Technology, pl. Shokina, 1, Zelenograd, Moscow, 124498, Russia

Аннотация: Рассматриваются искусственные нейроны, чьи весовые коэффициенты будут изменяться по специальному закону, основанному на интегрированном в их модели обратном распространении. Для этого коэффициенты погрешности обратного распространения вводятся в явном виде во все модели нейронов и осуществляется передача их значений вдоль межнейронных связей. В дополнение к этому вводится специальный тип нейронов с эталонными входами, которые будут выступать в качестве основного источника первичной оценки погрешности для всей нейронной сети. В последнюю очередь вводится контрольный сигнал для запуска обучения, который будет управлять процессом передачи коэффициентов погрешности и корректировкой весов нейронов. Для рекуррентных нейронных сетей демонстрируется как провести интеграцию обратного распространения во времени в их формализм с помощью стековой памяти для внешних входов нейронов. Дополнительно к этому рассматриваются примеры как формализовать в рамках данного подхода такие популярные нейронные сети, как сети долгой кратковременной памяти, сети радиально-базисных функций, многослойные перцептроны и сверточные нейронные сети. Основным практическим следствием данного подхода является возможность описания нейронных сетей с перестраиваемыми связями на основе интегрированного алгоритма обратного распространения.

Ключевые слова: искусственные нейроны, обратное распространение ошибки, адаптивная перестройка связей, рекуррентные нейронные сети.

УДК: 519.68, 007.5

MSC: 68T05, 62M86

Поступила в редакцию: 22.05.2018

Язык публикации: английский

DOI: 10.20537/vm180212



Реферативные базы данных:


© МИАН, 2024