Главная > Разное > Статистические выводы и связи, Т.2
<< Предыдущий параграф
Следующий параграф >>
<< Предыдущий параграф Следующий параграф >>
Макеты страниц

Случай вырождения

19.13 В 19.4 мы предполагали, что невырождена, так что (19.12) имело смысл. Предполагалось также, что так что имело смысл (19.41). Если то (19.12) остается в силе, если существует но формула (19.41) становится бесполезной, поскольку сумма квадратов остатков, как показывает (19.37), тождественно обращается в нуль. Если то ранг X (и ранг , равный рангу ) меньше так что матрица не имеет обратной.

Пусть теперь X имеет ранг и пусть В этом случае задачу оценивания по методу НК приходится решать заново, так как не имеет обратной матрицы, и поэтому (19.12) недействительно. Далее мы следуем Плэкетту (1950).

Условие (19.19) по-прежнему остается необходимым и достаточным условием того, чтобы оценка была несмещенной для . В вырожденном случае оно, однако, не может быть полнено, если мы хотим оценить сам вектор 0, поскольку тогда (19.19) принимает вид

Действительно, вспоминая, что матрица X имеет ранг произведем разбиение ее на блоки:

где индексы указывают число строк и столбцов в блоке. Не теряя общности, можно предположить, что невырождена и, следовательно, имеет обратную матрицу . Так как последние строк матрицы X линейно зависят от первых строк, то для некоторой -матрицы С. Определим теперь новую матрицу порядка

где - единичная матрица порядка Очевидно, что ранг равен Вычисляя произведение мы видим, что

Умножая затем (19.48) справа на в силу (19.51) получаем

Последнее равенство противоречит тому факту, что ранг равен Следовательно, (19.48) не может выполняться.

19.14 Чтобы справиться с возникшей трудностью, мы введем систему линейных ограничений

где с — вектор констант размерности и В — матрица порядка ранга . Мы будем искать оценку вида Условие (19.48) теперь принимает вид

Чтобы избежать противоречия, подобного полученному в (19.52), предположим выполненным следующее условие невырожденности:

19.15 Теперь мы можем приступить к нахождению решения по методу НК. Матрица В ранга устраняет неполноту ранга матрицы Фактически мы оперируем с с, как с вектором вспомогательных случайных величин, и решаем совместно (19.8) и (19.53) для модифицированной модели

Матрица положительно определена, так как ненулевой вектор обращает в нуль только тогда, когда откуда следует, что является столбцом Но тогда (19.55) дает так что Таким образом, строго положительно определена и поэтому может быть обращена. (19.56) приводит к решению

аналогичному (19.12) и являющемуся, как и прежде, несмещенной линейной МД-оценкой для Матрица рассеяния этой оценки ввиду того, что с не является случайной величиной, имеет вид

Матрица В в (19.53) есть произвольная матрица, удовлетворяющая (19.55). В самом деле, если мы заменим В на где

любая невырожденная матрица порядка то значения (19.57) и (19.58) не изменятся. Поэтому в каждом частном случае можно выбирать В из условий удобства вычислений.

19.16 Упражнение 19.8 показывает, что несмещенно оценивается суммой квадратов остатков, деленной на , если

Чипмэн (1964) подробно рассматривает теорию НК в случае вырождения. См. также Льюис и Оделл (1966).

Пример 19.9

В качестве простого примера вырождения предположим, что

Здесь Матрица X имеет ранг в силу линейной зависимости между ее столбцами:

Прежде всего мы видим, что, как было установлено в 19.13, вектор 9 не может быть оценен несмещенно.

Матрица (19.50) порядка выражающая линейную зависимость, имеет вид

Введем теперь матрицу порядка

которая удовлетворяет (19.55), поскольку (в рассматриваемом случае одного линейного соотношения это скаляр). Следовательно, (19.53) имеет вид

(снова скаляр). Согласно (19.57) НК-оценка равна

Поскольку мы выбрали В так, что то мы не можем получить ничего лучшего для оценки самого 0. Однако в силу (19.9) любая система линейных функций несмещенно оценивается статистикой , если В данном случае несмещенно оцениваются так как удовлетворяет (19.19) при Оценками для служат, следовательно,

Из (19.58) получаем

так что

что, впрочем, непосредственно следует из того факта, что каждая из оценок равна среднему двух наблюдений с дисперсией Кроме того,

Это полезное свойство следует из ортогональности второго и третьего столбцов При обсуждении приложений теории НК к дисперсионному анализу в томе мы снова вернемся к этой теме.

<< Предыдущий параграф Следующий параграф >>
Оглавление