Главная > Математика > Линейная и нелинейная регрессии
<< Предыдущий параграф
Следующий параграф >>
<< Предыдущий параграф Следующий параграф >>
Макеты страниц

4.5. Метод инструментальных переменных

Допустим, помимо переменных имеется другая переменная которая также измеряется с ошибкой, а наблюдаемая величина равна:

где для простоты, опять интерпретируем как ошибки измерения, т. е. независимы между собой, независимы с . В матричной записи (4.32) перепишется следующим образом:

где матрицы порядка первая и последняя стохастические, а вторая детерминированная. Другим существенным предположением, накладываемым на является поведение этой матрицы при

Переменные, удовлетворяющие (4.33) и (4.34), называем инструментальными Объяснение термина дано ниже. Теперь вместо оцеи МНК рассмотрим другую оценку:

Допустим, X силшо регулярна, т. е. Докажем, что оцецнка при условии (4.34) в отличие от оценки МНК будет состоятельна. Имеем !

Найдем предел по зероятности:

Из существования пределов (4.34) следует, что последние три слагаемые равш нулю, поэтому

Далее,

В силу независимости от и условия (4.34) этот предел также равен нулю, поэтому

т. е. оценка состоятельна.

Что означает условие Покажем, что оно влечет асимптотическую сопряженность Сначала точно определим, что понижается под сопряженностью двух матриц Матрица порядка называется матрицей сопряженности матриц если элемент этой матрицы равен коэффициенту сопряженности между столбцом матрицы столбцом матрицы Обозначим

Тогда матрица сопряженности между равна:

Покажем, что при матрица имеет предел. Действительно,

Тогда

очевидно

Теперь понятно, почему матрицу называют матрицей инструментальных переменных. Переменные являются «заменителями» переменных причем их ошибки измерения независимы от ошибок измерения матрицы Это влечет независимость наблюдаемых переменных Если случайные отклонения трактуются как ошибки измерения, то подобная независимость естественна. В противном случае мы не вправе ожидать независимости То, что является удовлетворительным заменителем X, обеспечивается условием сопряженности (4.34). Таким образом, выступают в качестве инструмента измерения X, поэтому соответствующие переменные и называют инструментальными.

В качестве примера инструментальной переменной рассмотрим регрессию из примера с химическим экспериментом параграфа 1.1. Допустим, измерение температуры реакции термометром невозможно. В качестве инструментальной переменной для температуры реакции может выступать спектр некоторого вещества. Таким образом, вместо температуры в регрессии (4.21) подставляем некоторую характеристику спектра. При этом считаем, что ошибки в определении спектра независимы с остальными ошибками. Сопряженность температуры и спектра следует из их тесной взаимосвязи.

Таким образом, инструментальные переменные должны обладать двумя непременными условиями: а) для каждого вектор не зависит от вектора матрицы асимптотически сопряжены. Проверить эти условия на практике невозможно.

Поэтому неудивительно, что метод инструментальных переменных неоднократно подвергался критике. Можно указать на три трудности применения этого метода: во-первых, выбор инструментальной переменной произволен, поэтому имеется возможность получения большого спектра оценок, соответствующих разным инструментальным переменным. Во-вторых, очень трудно проверить предположение о независимости инструментальной переменной от ошибок измерения. В-третьих, подход инструментальных переменных возводит свойство состоятельности в ранг особой важности, которое не является таковым в случае больших выборочных дисперсий. В общем случае применение метода ИП весьма проблематично.

В случае же временных динамических рядов применение метода ИП может быть иногда весьма эффективным. Для таких рядов матрица X, как правило, самосопряжена. Поэтому, если в качестве инструментальной переменной взять матрицу, сдвинутую на единицу времени, то мы вправе ожидать хороших свойств оценок метода ИП. Обозначим матрицу X без последней строки; пусть — вектор-строка истинных значений х, соответствующая первому моменту времени. Обозначим

— матрица Аналогично введем матрицы и . Предположим, что сопряженность между ненулевая, в частности существует предельная матрица сопряженности

где Далее легко проверить, что из условия регулярности матрицы X следует регулярность и матрицы т. е. условие (4.34) выполнено:

Больше того,

где

В качестве оценки ИП рассматриваем

Матрица не обладает в точности теми свойствами, которые мы требовали от инструментальных переменных. Ошибки измерения для вообще говоря, зависят от ошибок измерения однако для каждого эти ошибки независимы. Оценка (4.40) состоятельна. Рассмотрим теорему.

Теорема 4.4. Если X строго регулярна, а условие (4.37) выполняется, то оценка (4.40) состоятельна. Доказательство дано в параграфе 4.8 Может быть доказана асимптотическая нормальность оценки (4.40). Запишем

Из доказательства теоремы (4.4) следует, что вероятностный предел - невырожденная матрица. Вектор разлагается на сумму четырех векторов:

Легко проверить, что первые три вектора имеют нормальное распределение с нулевым математическим ожиданием. Можно показать, что и последнее слагаемое асимптотически нормально 1. Таким образом, можно считать асимптотически нормальным и сам вектор .

Для практических применений оценки необходимо, хотя бы приближенно, знать ее матрицу ковариаций. В параграфе дана асимптотическая матрица ковариаций вектора . На ее основе может быть получена приближенная матрица ковариаций вектора

где

оценки или же их точные значения, если известны. Можно показать, что при

формула (4.41) превращается в точную. Приближение ее будет тем точнее, чем меньше

В [101] предлагаются два метода оценивания зависимостей с ошибками в переменных, каждый из которых есть комбинация метода ИП и МНК. Автор рассматривает простейший случай зависимости:

причем регулярны, Пусть инструментальная переменная, такая, что где случайная ошибка, независима со всеми остальными ошибками Для оценки МНК а и инструментальной переменной находится асимптотический квадрат отклонения. На основе сравнения асимптотического квадрата отклонения предлагается выбирать либо либо а. Вторая 1 оценка есть линейная комбинация оценки МНК и ИП:

Вычисляется асимптотический квадрат отклонения этой оценки от истинного значения и X выбирается таким образом, что эта величина обращается в минимум.

Оценки сравниваются здесь методом Монте-Карло. Вторая оценка оказалась более предпочтительной.

Упражнения 4.5

(см. скан)

<< Предыдущий параграф Следующий параграф >>
Оглавление