Об оптимальных и субоптимальных алгоритмах обучения

Рассматриваются непрерывные оптимальные алгоритмы, представляющие собой стохастические дифференциальные уравнения. Для полного определения этих алгоритмов необходимо знать начальные значения переменных: оценку и обратную матрицу в некоторый момент времени $t=t_0$, которые должны быть определены независимо от алгоритмов. Обсуждаются возможности полного определения оптимальных алгоритмов. Вводятся субоптимальные алгоритмы обучения, не требующие знания начальных значений переменных, и изучаются их свойства. Отмечаются трудности реализации оптимальных и субоптимальных алгоритмов на вычислительных машинах.