Статья: ЛИНЕЙНЫЙ РЕГРЕССИОННЫЙ АНАЛИЗ НА ОСНОВЕ ВЗВЕШЕННОГО МЕТОДА НАИМЕНЬШИХ МОДУЛЕЙ: ТОЧНЫЕ АЛГОРИТМЫ (2024)

Читать онлайн

Метод наименьших модулей представляет собой одну из наиболее распространенных альтернатив методу наименьших квадратов в регрессионном анализе. Он позволяет получать устойчивые оценки коэффициентов, когда плотность вероятности случайных ошибок имеет более вытянутые хвосты по сравнению с нормальным распределением. Однако при сочетании нескольких нарушений условий Гаусса – Маркова, например, при одностороннем характере выбросов и наличии корреляции между объясняющими переменными и случайными ошибками, метод наименьших модулей также не позволяет обеспечить приемлемую точность оценивания регрессионных зависимостей. Одним из перспективных путей решения данной проблемы может оказаться взвешенный метод наименьших модулей. Рассмотрена задача определения параметров линейных регрессионных моделей на основе взвешенного метода наименьших модулей. Описаны точные алгоритмы ее решения. Исследована вычислительная эффективность точных алгоритмов решения задачи взвешенного метода наименьших модулей. Доказано, что добавление весовых коэффициентов в алгоритмы покоординатного и модифицированного градиентного спусков не вызвало изменений в плане вычислительной сложности и точности решения. Тем не менее зафиксирован малый рост времени выполнения вычислительных экспериментов в связи с добавлением дополнительной операции в алгоритмы спуска. Данная зависимость более заметно проявляется в покоординатном варианте, что связано с тем, это значение целевой функции в нем определяется на каждой узловой точке узловой прямой вплоть до нахождения минимума, в то время как у градиентного спуска оно определяется только в точке экстремума. В результате проведения сравнительного анализа с методом проектирования градиента и решениями прямой и двойственной задач линейного программирования при помощи симплекс-метода установлено, что они более чем на порядок уступают градиентному спуску по узловым прямым в плане времени вычислений. Показано, что метод проектирования градиента не гарантирует нахождение точного решения задачи

Ключевые фразы: линейная регрессия, взвешенный метод наименьших модулей, узловая прямая, ЗАДАЧА ЛИНЕЙНОГО ПРОГРАММИРОВАНИЯ, СИМПЛЕКС-МЕТОД, метод проектирования градиента
Автор (ы): Голованов Олег Александрович, Тырсин Александр Николаевич
Журнал: ПРИКЛАДНАЯ МАТЕМАТИКА И ВОПРОСЫ УПРАВЛЕНИЯ

Предпросмотр статьи

Идентификаторы и классификаторы

SCI
Математика
УДК
519.237.5. Корреляционный и регрессионный анализ
519.65. Приближение и интерполирование
Для цитирования:
ГОЛОВАНОВ О. А., ТЫРСИН А. Н. ЛИНЕЙНЫЙ РЕГРЕССИОННЫЙ АНАЛИЗ НА ОСНОВЕ ВЗВЕШЕННОГО МЕТОДА НАИМЕНЬШИХ МОДУЛЕЙ: ТОЧНЫЕ АЛГОРИТМЫ // ПРИКЛАДНАЯ МАТЕМАТИКА И ВОПРОСЫ УПРАВЛЕНИЯ. 2024. № 4
Текстовый фрагмент статьи