Главная > Разное > Статистические выводы и связи, Т.2
<< Предыдущий параграф
Следующий параграф >>
<< Предыдущий параграф Следующий параграф >>
Макеты страниц

Общий случай

18.9 Если для не существует одномерной достаточной статистики, то ФП уже не обязательно будет иметь только один максимум (см. упражнения 18.17, 18.33). В этом случае для выбора МП-оценки надо воспользоваться условием (18.2). Далее будут рассматриваться свойства полученных таким путем оценок. Мы увидим, что при достаточно широких условиях МП-оценки состоятельны, а при выполнении условий регулярности (наиболее важным из которых является независимость области определения от 0), кроме того, асимптотически нормальны и эффективны. Однако указанные свойства относятся к большим выборкам, а поэтому, как бы ни были важны эти свойства, надо всегда помнить, что они не могут быть такими же убедительными аргументами в пользу МП-оценок, какими были рассмотренные нами свойства, связанные с достаточными статистиками. Возможно, вообще не следует ожидать от какого-то одного метода, чтобы он давал «наилучшие» результаты при любых, обстоятельствах и для всех объемов выборок. Как бы то ни было, остается фактом то, что вне связи с достаточными статистиками МП-оценки обладают только асимптотическими оптимальными свойствами.

Пример 18.3

В качестве примера общей ситуации рассмотрим оценивание параметра корреляции по выборке объема из нормированного двумерного нормального распределения

Находим

откуда для получаем

Это приводится к кубическому уравнению

Последнее имеет три корня, два из которых могут быть комплексными. В случае, когда все три корня действительны и соответствуют допустимым значениям мы согласно (18.2) выбираем в качестве МП-оценки тот из них, для которого ФП принимает наибольшее значение.

Если записать кубическое уравнение в виде

где

а

то условием того, что оно имеет единственный корень, является неравенство

Это неравенство наверняка выполнено при Так как согласно 103 и 10.9 выборочные моменты в (18.16) являются состоятельными оценками соответствующих генеральных моментов, то сходится по вероятности к положительной величине

Таким образом, асимптотически уравнение правдоподобия имеет только один действительный корень, который и будет. МП-оценкой, поскольку комплексные корни не являются допустимыми значениями..

Состоятельность оценок максимального правдоподобия

18.10 Теперь мы покажем, что при очень общих условиях МП-оценки состоятельны.

Рассмотрим, как и в (18.2), выборку из независимых наблюдений из распределения и для каждого выберем МП-оценку 0. Тогда для любого допустимого значения будем иметь

Пусть обозначает истинное значение 0, а соответствующее математическое ожидание. Определим случайную величину В силу того, что геометрическое среднее невырожденного распределения не превосходит арифметического среднего, для всех будет выполняться неравенство

Поскольку математическое ожидание в правой части равно

то (18.18) записывается в виде

Вводя множитель получаем

при условии, что математическое ожидание в правой части (18.19) существует. Это условие обычно бывает выполнено. Далее, для любого выражение

является средним независимых одинаково распределенных случайных величин с математическим ожиданием

Следовательно, согласно усиленному закону больших чисел (7.25) — при возрастании сходится с вероятностью

единица к своему математическому ожиданию. Отсюда и из (18.19) следует, что при с вероятностью единица

или

С другой стороны, (18.17) при дает

(18.20) и (18.21) показывают, что при значение не может отличаться от Поэтому, если является взаимно однозначной функцией от 0, то

Мы привели эвристический вариант строгого доказательства состоятельности МП-оценки, данного Вальдсш (1949). (Строгое доказательство требует некоторых дополнительных условий.)

18.11 Мы показали, что любая последовательность оценок, удовлетворяющая (8.2), состоятельна. Этот результат был усилен Хузурбазаром (1948), который доказал, что если выполнены условия регулярности, то при достаточно больших существует единственная состоятельная МП-оценка.

Пусть ФП дважды дифференцируема. Тогда из сходимости к по вероятности следует, что

Величина

есть среднее независимых одинаково распределенных случайных величин и согласно усиленному закону больших чисел сходится с вероятностью единица к своему математическому ожиданию. Поэтому (18.23) можно записать в виде

Но согласно (17.19) при выполнении условии регулярности

Следовательно, (18.24) дает

18.12 Предположим теперь, что выполнены условия пункта 18.2 и имеется два локальных максимума и 62, которые являются корнями (18.5) и удовлетворяют (18.6). Если всюду имеет вторую производную, как мы предполагали в предыдущем пункте, то между двумя максимумами должен находиться один минимум (обозначим его для которого

Но поскольку суть состоятельные оценки, то оценка значение которой заключено между ними, должна быть также состоятельной и удовлетворять (18.26). Однако (18.26) и (18.27) противоречат друг другу. Следовательно, мы можем получить только одну состоятельную оценку, являющуюся корнем уравнения правдоподобия (18.5).

18.13 В связи с рассмотрением состоятельности МП-оценок следовало бы обратить внимание на следующий факт. Не исключена возможность, что ФП имеет два (или более) максимума, т. е. в (18.2) имеет место знак равенства. Какое из значений соответствующих этим максимумам, мы должны выбрать? Появляющаяся неопределенность кажется довольно серьезной. К счастью, она не играет важной роли, так как обычно трудности возникают только для отдельных комбинаций выборочных значений, вероятность появления которых мала. Однако если параметр неопределяем по существу, то неоднозначность может возникнуть для всех выборок. Следующий пример иллюстрирует такой случай.

Пример 18.4

Положим в примере 18.3

Тогда каждому действительному решению кубического уравнения правдоподобия будет соответствовать бесконечное число оценок вида

где любое целое число. Параметр здесь в принципе невозможно оценить. Рассматриваемая как функция от является периодической с бесконечным числом максимумов в точках разности между которыми кратны Конечно, для

истинного значения может существовать только одна состоятельная оценка, однако у нас нет никакого способа определить, какая именно из оценок состоятельна. В таких случаях мы говорим, что сам параметр неидентифицйруем и что можно оценить лишь

<< Предыдущий параграф Следующий параграф >>
Оглавление