Главная > Разное > Статистические выводы и связи, Т.2
<< Предыдущий параграф
Следующий параграф >>
<< Предыдущий параграф Следующий параграф >>
Макеты страниц

Последовательное приближение к МП-оценке

18.21 В большинстве рассмотренных нами примеров МП-оценки были получены в явном виде. Исключением является пример 18.3, где мы пришли к кубическому уравнению. Но даже в этом случае не представляет особого труда получить решение, когда значения х заданы. Однако иногда уравнение правдоподобия настолько сложно, что приходится искать корень с помощью итерационных методов, начиная с некоторого пробного значения

Как и в (18.31), мы разлагаем в ряд Тейлора (но на этот раз в окрестности и получаем

лежит между Отсюда

Если некоторое не очень сильно отличается от 0» то можно заменить 8 в (18.44) на Это дает

что является лучшим приближением для 0, чем Этот процесс можно повторять до тех пор, пока не будет получена желаемая точность.

Обычно в качестве берут значение какой-нибудь легко вычисляемой состоятельной оценки 0. Тогда при мы будем

иметь две состоятельные оценки сходящиеся к Очевидно, также будет сходиться к Три случайные величины будут сходиться к Использование в (18.44) второй из этих величин вместо первой дает (18.45). Использование же третьей вместо первой дает другую итерационную процедуру:

(последнее равенство следует из 18.16). (18.45) есть итерационный процесс Ньютона — Рафсона, а процедура (18.46) предложена Фишером (1925). Кейл (1961) показал, что (18.46) при больших обычно быстрее приводит к цели, если не требуется чрезмерно высокая окончательная точность. Обычно процедура (18.46) менее трудоемка.

Как (18.45), так и (18.46) могут в некоторых случаях не сходиться. Если даже они сходятся, но уравнение правдоподобия имеет несколько корней, то нет никакой гарантии, что они сходятся к корню, соответствующему абсолютному максимуму ФП. Поэтому следует найти интервалы, в которых меняет знак с плюса на минус, вычислить все максимумы и затем сравнить их. Барнетт (1966а) рассматривает систематический метод выполнения такой операции, используя «метод ложных положений».

Пример 18.9

Оценить параметр в распределении Коши

Уравнение правдоподобия

есть уравнение степени по 0. Согласно 18.16 для асимптотической дисперсии имеем

Следовательно,

Уравнение правдоподобия имеет в общем случае несколько корней, и при малых или (18.46) могут не сходиться (см. Барнетт (1966а)). Однако с вероятностью, стремящейся к является максимумом, ближайшим к выборочной медиане, асимптотическая дисперсия которой равна (пример 17.5)

а эффективность Следовательно, при больших можем взять в качестве начальной точки при отыскании в выборочную медиану и использовать формулу (18.46), которая в данном случае примет вид

Это будет первым приближением к 0. Более точные приближения можно получить с помощью дальнейших итераций.

Блоч (1966) предложил в качестве оценки для линейную комбинацию пяти порядковых статистик с весами —0,052; 0,3485; 0,407; 0,3485; —0,052. Эффективность этой оценки превышает 0,95, поэтому она была бы превосходной начальной точкой при итерационном решении уравнения правдоподобия. Ротенберг и др. (1964) показали, что среднее значение центральных 24 процентов выборки из распределения Коши имеет асимптотическую дисперсию следовательно, эффективность 0,88. См. также Барнетт (1966b).

Пример 18.10

Мы рассмотрим теперь итерационный метод решения более детально и для этой цели воспользуемся некоторыми данными, полученными Фишером (1925, глава 9).

Рассмотрим мультиноминальное распределение с четырьмя классами, имеющими вероятности

Параметр лежащий в интервале должен быть оценен исходя из наблюденных частот соответствующих четырем классам (объем выборки равен а Имеем

откуда

Приравнивая последнее выражение нулю, получаем квадратное уравнение относительно 0:

Поскольку произведение коэффициента при на свободный член отрицательно, то произведение корней квадратного уравнения должно быть также отрицательно; поэтому только один корень может быть положительным, т. е. лежать в области возможных значений 9. Значение этого корня дается выражением

Полученная формула позволяет очень просто вычислять МП-оценку 0. В примере Фишера (из генетики) наблюденные частоты были равны

а для было получено значение 0,0357.

Легко показать, проводя еще одно дифференцирование, что

Подставляя вместо 0, мы получаем в рассматриваемом случае для Значение 0,0000336.

В целях иллюстрации мы найдем для данного примера итерационным путем, начав с какой-нибудь неэффективной оценки. Фишером была предложена следующая простая неэффективная оценка:

Легко видеть, что эта оценка состоятельна и имеет дисперсию

Значение для генетических данных равно

Это довольно далеко от значения 0, равного 0,0357, которое мы ищем. Используя (18.46), получаем первое приближение

Поскольку

то наша улучшенная оценка равна

т. е. довольно близка к искомой величине 0,0357. Вторая итерация дает

Следовательно,

Полученное значение очень близко к искомому. Чтобы получить значение 0,0357, верное с точностью до четырех десятичных знаков, нужна еще одна итерация. Кроме того, еще одна итерация необходима, чтобы подтвердить, что полученное значение устойчиво в пределах требуемого числа десятичных знаков, т. е. дальнейшие итерации не нужны. Читателю следовало бы сделать эти итерации, чтобы убедиться в своем умении использовать описанный метод.

Рассмотренный пример показывает, что при использовании итерационного метода для практических целей следует позаботиться о том, чтобы было сделано достаточное число итераций. Правда, этот пример является неблагоприятным, поскольку эффективность низка. Она равна и подстановке вместо принимает значение 0,13 или 13 процентов. Обычно стараются начинать со значения оценки с более высокой эффективностью.

<< Предыдущий параграф Следующий параграф >>
Оглавление