Макеты страниц 1.8. Свойства оценки МНК при нормальных отклоненияхДо сих пор мы не делали какого-либо предположения относительно распределения отклонений Теорема 1.11. Если Доказательство. Из условия теоремы и независимости
Оценка ММП соответствует максимуму этой функции. Возьмем логарифм этой функции, отбросим константу, не влияющую на максимизацию, и поменяем знак. Получим
Необходимым условием минимума является обращение первых производных функции в точке минимума в иуль. Найдем производную по а:
Решением этого уравнения и будет оценка ММП Итак, если отклонения нормально распределены, то оценка МНК совпадает с общестатистическим методом оценивания — методом максимального правдоподобия. Иногда, ссылаясь на совпадение оценок МНК и ММП в условиях нормальных отклонений, утверждают, что все известные оптимальные свойства ММП приобретает в этом случае и МНК: состоятельность, асимптотическую нормальность и эффективность. Без дополнительных оговорок подобный перенос свойств оценок для регрессий не имеет места. Дело в том, что указанные асимптотические свойства оценок ММП доказываются в условиях одинакового распределения наблюдений
Поэтому и состоятельность, и асимптотическую нормальность оценок метода наименьших квадратов необходимо передоказывать. Для того чтобы указанные асимптотические свойства выполнялись, необходимо наложить определенные ограничения на поведение независимых переменных на бесконечности, т. е. при увеличении объема выборки, что и было сделано в предыдущем параграфе. Наиболее ценным с практической точки зрения является то, что в условиях нормальной гипотезы распределение оценки МНК принимает конкретный вид и является тоже нормальным. Теорема 1.12. Если а) оценка МНК имеет нормальное распределение б) статистика в) оценки Доказательство, а) Оценка МНК
где
Теперь воспользуемся утверждением в) Применим теорему
Значение доказанной теоремы велико. Факт нормальности а, независимости Большое значение имеет также следующая теорема. Теорема 1.13. Если отклонения нормальны, то оценка МНК является эффективной в классе всех несмещенных оценок с минимальной матрицей ковариаций, равной Доказательство см. в параграфе 1.11. Теорема 1.13 утверждает, что если Существует много критериев проверки гипотезы о нормальном распределении отклонений. Однако они требуют большого числа наблюдений Упражнения 1.8(см. скан)
|
Оглавление
|