Главная > Математика > Линейная и нелинейная регрессии
<< Предыдущий параграф
Следующий параграф >>
<< Предыдущий параграф Следующий параграф >>
Макеты страниц

4.7. Сравнение оценок

Отличительной чертой всех рассмотренных оценок является требование наличия априорной информации. Априорная информация о системе (4.1) может выступать в разных видах. Так, в случае ММП мы" должны знать дисперсии величин хотя бы с точностью до постоянного множителя. Если таковой информации не имеется, то оценок ММП не существует, а оценки ортогональной регрессии не являются состоятельными. В методе разбиения выборки на группы (А. Вальд, М. Бартлетт) мы должны иметь дополнительную информацию о неизвестных истинных значениях независимых переменных. В противном случае оценка группового метода будет неудовлетворительной. В методе инструментальных переменных информация выступает в виде знания инструментальных переменных, на которые накладываются жесткие условия. В частности, в оценках мы требовали асимптотической автосопряженности независимых переменных. По-видимому, без дополнительной информации невозможно вообще состоятельно оценить параметры зависимости (4.1), даже в предположении сильной регулярности матриц

Основным критерием допустимости той или иной оценки является ее состоятельность. Однако состоятельность — свойство теоретического характера. Ясно, что несостоятельная оценка для данного, конкретного может быть намного лучше состоятельной оценки. И это скорее будет наблюдаться для не очень больших Этот вывод, в частности, подтверждается следующими расчетами.

Каждая переменная регрессия (1.5), по предположению, 1 измерялась с ошибкой. Стандартные отклонения этих ошибок приведены в табл. 4.1. Объясним их выбор. Допустим, точность весов, измеряющих выход реакции, равна 10 г. Тогда а ошибка измерения лежит в 1 пределах от — 0,005 до Поэтому можно предположить, что, например, равномерно распределена на интервале равномерно распределена на интервале (140, 275; 140, 285), а истинное значение При этом стандартное отклонение равно: Аналогичное рассуждение

проводим для остальных случайных величин Таким образом, случай соответствует предположению о точности измерения до 0,01. Случай соответствует гипотезе о точности измерения до 0,1 и т. д. Случай соответствует экстремальной ситуации, когда точность весов равна а точность термометра 100°. Набор стандартных отклонений отвечает ситуации, когда измеряются на одних весах с точностью деления Температура при этом замеряется неточно, ее точность равна 10°.

Рис. 4.5. Распределение мест 6 оценок параметров регрессии-примера

Для данной регрессии для различных вариантов — имитировались измерения ихгз. В качестве истинных значений выбирались значения из табл. 1.1. Для каждой имитации (всего было 500 испытаний) вычислялись оценки МНК, ММП, ИП, ортогональной регрессии (ОР), Картни — Вайссмана (KB), группового метода (ГМ). В групповом методе в первую группу вошли наблюдения первых четырех экспериментов, во вторую — наблюдения вторых четырех экспериментов и т. д., в последнюю последних трех экспериментов. В качестве «истинных» параметров были взяты параметры После 500 испытаний быля вычислены средние квадратов отклонений оценок от истинных значений, т. е.

где значение оценки испытании. Во всех случаях лучшей оказалась оценка МНК. Распределение мест показано на рис. 4.5. Чем можно объяснить на первый взгляд странный вывод при сравнении эффективностей шести оценок? Ведь все оценки, за исключением оценки МНК, были при некоторых условиях

состоятельны. Дело в том, что объем выборки в нашей регрессии очень невелик, равен 15. А при таких объемах несостоятельные оценки могут быть лучше состоятельных. Приведенные результаты статистических испытаний с регрессией хорошая иллюстрация этому. Если бы объем выборки в регрессии (1.5) был равен 100 или более, то результаты по сравнению оценок, возможно, были бы другие.

Исследование статистических свойств оценок, рассмотренных в этой главе, практически не проводилось. Исследованы лишь простейшие зависимости (оценка МНК [177], оценка ММП [72]), которые на практике применяются весьма редко.

<< Предыдущий параграф Следующий параграф >>
Оглавление