Аннотация:
Рассмотрен новый двухуровневый метод регрессионного анализа, в котором корректирующая процедура применяется к оптимальным ансамблям регрессионных деревьев. При этом оптимизация производится исходя из одновременного достижения расходимости алгоритмов в пространстве прогнозов и хорошей аппроксимации данных отдельными алгоритмами ансамбля. В качестве корректирующих процедур рассматриваются простое усреднение, случайный регрессионный лес и градиентный бустинг. Приведены эксперименты по сравнению предложенного метода со стандартным решающим лесом и стандартным методом градиентного бустинга для решающих деревьев.