Научный архив: статьи

ЛИНЕЙНЫЙ РЕГРЕССИОННЫЙ АНАЛИЗ НА ОСНОВЕ ВЗВЕШЕННОГО МЕТОДА НАИМЕНЬШИХ МОДУЛЕЙ: ТОЧНЫЕ АЛГОРИТМЫ (2024)

Метод наименьших модулей представляет собой одну из наиболее распространенных альтернатив методу наименьших квадратов в регрессионном анализе. Он позволяет получать устойчивые оценки коэффициентов, когда плотность вероятности случайных ошибок имеет более вытянутые хвосты по сравнению с нормальным распределением. Однако при сочетании нескольких нарушений условий Гаусса – Маркова, например, при одностороннем характере выбросов и наличии корреляции между объясняющими переменными и случайными ошибками, метод наименьших модулей также не позволяет обеспечить приемлемую точность оценивания регрессионных зависимостей. Одним из перспективных путей решения данной проблемы может оказаться взвешенный метод наименьших модулей. Рассмотрена задача определения параметров линейных регрессионных моделей на основе взвешенного метода наименьших модулей. Описаны точные алгоритмы ее решения. Исследована вычислительная эффективность точных алгоритмов решения задачи взвешенного метода наименьших модулей. Доказано, что добавление весовых коэффициентов в алгоритмы покоординатного и модифицированного градиентного спусков не вызвало изменений в плане вычислительной сложности и точности решения. Тем не менее зафиксирован малый рост времени выполнения вычислительных экспериментов в связи с добавлением дополнительной операции в алгоритмы спуска. Данная зависимость более заметно проявляется в покоординатном варианте, что связано с тем, это значение целевой функции в нем определяется на каждой узловой точке узловой прямой вплоть до нахождения минимума, в то время как у градиентного спуска оно определяется только в точке экстремума. В результате проведения сравнительного анализа с методом проектирования градиента и решениями прямой и двойственной задач линейного программирования при помощи симплекс-метода установлено, что они более чем на порядок уступают градиентному спуску по узловым прямым в плане времени вычислений. Показано, что метод проектирования градиента не гарантирует нахождение точного решения задачи

Издание: ПРИКЛАДНАЯ МАТЕМАТИКА И ВОПРОСЫ УПРАВЛЕНИЯ
Выпуск: № 4 (2024)
Автор(ы): Голованов Олег Александрович, Тырсин Александр Николаевич
Сохранить в закладках