Главная > Разное > Статистические выводы и связи, Т.2
<< Предыдущий параграф
Следующий параграф >>
<< Предыдущий параграф Следующий параграф >>
Макеты страниц

Полиномиальная регрессия: ортогональные полиномы

28.16 При полиномиальной зависимости у от х, как в (28.64), матрица не может быть диагональной, поскольку недиагональные элементы являются суммами степеней одной и той же величины х. Однако можно выбрать полиномы степени относительно х, скажем которые будут взаимно ортогональны. Тогда (28.64) заменится соотношением

которое можно переписать в матричной форме как

Величины а образуют новое множество параметров (зависящих от исходных в терминах которых значительно удобнее

работать. Действительно, теперь из (28.67) следует равенство

которое можно использовать в (28.62). Далее, учитывая (28.69), получаем из (28.61)

Таким образом, каждая оценка зависит только от соответствующего полинома. Это очень удобно при «подгонке» полиномиальной регрессии, степень которой заранее не определена: мы шаг за шагом увеличиваем значение до тех пор, пока не получим достаточно хорошее согласие. Если бы мы использовали неортогональную модель регрессии (28.64), то при добавлении нового члена увеличивающего степень полинома, нужно было бы пересчитывать все множество оценок Конечно, если переписать оцененную регрессию у — йгфг в виде то будут в точности теми оценками, которые мы должны были бы получить, хотя и менее удобным способом, непосредственно из (28.64). Это вытекает из того факта, что оба метода минимизируют одну и ту же сумму квадратов остатков.

Используя (28.70), получаем в ортогональном случае из (28.63)

Эти очень простые выражения для суммы квадратов остатков от подгоняемой регрессии позволяют быстро вычислить дополнительное уменьшение остаточной дисперсии, вызываемое увеличением степени подгоняемого полинома.

28.17 Рассмотрим теперь, как находить ортогональные полиномы Нам требуется, чтобы

где

В (28.74) входит коэффициентов а следовательно, все вместе полиномы содержат коэффициентов, подлежащих определению. Для этой цели соотношения (28.73) дают только уравнений. Для определения оставшихся постоянных потребуем, чтобы с при всех Тогда из (28.74) сразу получаем

тождественно по х. Теперь соотношения (28.73) определяют для каждого коэффициенты с точностью до постоянного множителя, скажем При из (28.73) и (28.74) получаем уравнения

или

где есть момент множества иксов. Так как (28.76) выполняется для всех то мы должны иметь равенства

Выпишем определитель

и пусть — минор элемента, стоящего на пересечении строки и столбца в определителе Тогда решение

системы (28.77) (с учетом предположения есть

Таким образом, из (28.74) и (28.78) следует, что

Соотношение (28.79) применимо для нахождения полинома, каково бы ни было Разумеется, Если измерять иксы от их средних значений, так, чтобы штрихи можно опустить. Следует заметить, что если в (28.79) у определителя, стоящего в числителе, вычеркнуть последние строку и столбец, то он совпадет со знаменателем. К примеру, находим

и т. д. В упражнении 28.23 дан более простой, рекуррентный способ нахождения полиномов.

<< Предыдущий параграф Следующий параграф >>
Оглавление