Главная > Математика > Линейная и нелинейная регрессии
<< Предыдущий параграф
Следующий параграф >>
<< Предыдущий параграф Следующий параграф >>
Макеты страниц

2.3. Регрессия с ограничениями на параметры

В этом параграфе ослабим предположение А. Будем считать, что априорное множество не совпадает со всем пространством а является лишь его частью. Рассмотрим случай, когда представляет собой гиперплоскость в некоторой размерности Это означает, что на истинный вектор параметров наложено линейно-независимых априорных ограничений в виде уравнений с известными

коэффициентами. С такого рода ограничениями мы сталкивались в параграфе 1.10 при проверке линейной гипотезы (1.55). Итак, предположим, неизвестный вектор параметров а удовлетворяет соотношению

где заданы. Остальные предположения считаем выполненными.

Теорема 2.7. Оценка, минимизирующая сумму квадратов отклонений при ограничениях (2.26), равная

где — оценка МНК, является несмещенной и эффективной в классе несмещенных оценок, линейных по удовлетворяющих (2.26); матрица ковариации (2.27) равна:

Доказательство. Для нахождения воспользуемся МНК при ограничениях (2.26). Таким образом, минимизируем при условии Введем множители Лагранжа и построим функцию

Выразим отсюда а и подставим его в (2.26), откуда найдем что при подстановке в (2.29) ведет к оценке (2.27).

Несмещенность оценки (2.27) доказывается просто: в силу (2.26)

Доказательство линейной эффективности оценки предоставляем читателю (см. также [58, с. 202—204]). Найдем

Далее

откуда следует (2.28).

Несмещенной оценкой для является

В условиях нормально распределенных отклонений можно построить доверительные интервалы для параметра а и проверять статистические гипотезы [58].

Вкратце рассмотрим регрессии с ограничениями на параметры в виде неравенств. Вместо (2.26) будем предполагать, что

где условия на те же, что и в Оценка МНК минимизирует сумму квадратов отклонений при ограничениях (2.31). Нетрудно показать, что во-впервых, эта оценка единственна; во-вторых, либо совпадает с обычной оценкой МНК а, что верно, если либо хотя бы для одного Итак, в тривиальном случае в противном случае некоторые неравенства в (2.31) оценка обращает в равенства. Последнее обстоятельство является нежелательным. Действительно, допустим, исследуется взаимосвязь производительности труда у и материального стимулирования Разумно предположить, что Минимизируя при ограничении мы столкнемся с двумя ситуациями: совпадает с оценкой МНК; в этом случае ограничение становится «лишним», б) тогда что малоприемлемо.

Спецификация (2.31) неудовлетворительна тем, что в случае неравенств с ненулевой вероятностью оценка принимает крайние значения. Неслучайно поэтому в некоторых случаях оценка МНК а оказывается лучше [179]. Исследование оценки ее свойств и вычисление можно

найти в [153]. Там же есть ссылки на другие работы по этому вопросу.

Можно показать, что оценка МНК при ограничениях (2.31) является смещенной.

Упражнения 2.3

(см. скан)

<< Предыдущий параграф Следующий параграф >>
Оглавление