Главная > Разное > Статистические выводы и связи, Т.2
<< Предыдущий параграф
Следующий параграф >>
<< Предыдущий параграф Следующий параграф >>
Макеты страниц

Состоятельность и эффективность в общем случае нескольких параметров

18.26 В общем случае, когда не обязательно имеется достаточных статистик для параметров, совместные МП-оценки обладают асимптотическими оптимальными свойствами, аналогичными тем, которые имели место в случае одного параметра.

Заметим, прежде всего, что доказательство состоятельности, данное в 18.10, полностью переносится на случай многих параметров, если интерпретировать как вектор параметров и как векторы оценок для 0. Таким образом, при очень общих условиях система совместных МП-оценок сходится по вероятности к истинной системе значений параметров

Кроме того, непосредственно обобщая метод пункта 18.16, можно показать (см., например, Вальд (1943а)), что совместное распределение МП-оценок сходится, в условиях регулярности, к многомерному нормальному распределению с матрицей рассеяния, обратной к матрице

Мы приведем лишь схему доказательства этого факта. Аналог разложения Тейлора (18.31), в котором левая часть приравнена нулю, принимает вид

Поскольку сходится по вероятности к а вторые производные в правой части (18.61) сходятся по вероятности к своим математическим ожиданиям, то мы можем рассматривать (18.61) как систему линейных уравнений относительно Эту систему можно записать в виде

где а определена в (18.60).

Согласно многомерной центральной предельной теореме, если для каждого будет выполняться (18.29), то вектор у будет иметь предельное многомерное нормальное распределение. Следовательно, вектор также будет в пределе распределен нормально. Матрица рассеяния вектора у дается, по определению, выражением (18.60), так что под знаком экспоненты многомерного распределения будет стоять квадратичная форма (см. 15.3)

Преобразование (18.62) дает для квадратичную форму

откуда следует, что матрица рассеяния равна как и утверждалось в (18.60).

18.27 Если имеется совместно достаточных статистик для параметров, то можно подставить (18.55) в (18.60), что дает следующее значение для матрицы, обратной к матрице рассеяния, в случае больших выборок:

Соотношение (18.64) так же, как и результат пункта 18.18, обобщением которого оно является, устраняет необходимость нахождения математических ожиданий.

Если системы из достаточных статистик не существует, то элементы матрицы рассеяния могут быть оценены по выборке стандартными методами.

18.28 Тот факт, что МП-оценки имеют матрицу рассеяния, определяемую соотношением (18.60), позволяет установить дальнейшие оптимальные свойства совместных МП-оценок.

Рассмотрим произвольную систему состоятельных, функционально не связанных оценок параметров имеющих матрицу рассеяния Аналогично (17.21), при условиях регулярности, если каждая из состоятельных оценок является асимптотически несмещенной, получаем асимптотическое равенство

которое после дифференцирования приводит к соотношению »

откуда, учитывая (17.18), получаем

Рассмотрим теперь матрицу рассеяния вариант которая вследствие (18.65) и результатов 18.26 равна

где единичная матрица порядка Будучи матрицей рассеяния, С неотрицательно определена. Следовательно, ее определитель неотрицателен (см. (18.59)). Поскольку определитель матрицы

также неотрицателен, то

Но так как

то откуда (ем. 19.8 ниже)

Таким образом, определитель матрицы рассеяния любой системы оценок (называемый обобщенной дисперсией этой системы

оценок) асимптотически не меньше, чем Но в 18.26 было показано, что для МП-оценок асимптотически Следовательно, МП-оценки являются асимптотически оценками с минимальной обобщенной дисперсией. Этот результат впервые был получен Гири (1942а).

Пример 18.13

Рассмотрим снова оценки примера 18.11. Имеем

Вспоминая, что МП-оценки достаточны для и используя (18.64), мы получим матрицу, обратную к их асимптотической матрице рассеяния, если подставим во вторые производные значения Находим

откуда

Мы видим, что асимптотически независимы и имеют нормальные распределения с указанными дисперсиями. При этом, как уже известно, свойство независимости, а также нормальность распределения х и выражение для ее дисперсии справедливы при любом (примеры 11.3, 11.12). Что же касается то свойство нормальности и выражение для дисперсии этой оценки являются чисто предельными, поскольку (пример 11.7) распределено, как степенями свободы, и, следовательно, точная дисперсия (см. равна

18.29 Может случиться, что некоторые из параметров, от которых зависит распределение, известны и надо оценить остальные. При условиях регулярности МП-оценки нужных параметров получаются как решения соответствующей подсистемы системы уравнений правдоподобия (18.47). Очевидно, не следует ожидать, что на МП-оценку отдельного параметра не повлияет знание других параметров распределения. Вид МП-оценки некоторого параметра зависит от того, какие параметры оцениваются совместно с ним. Это хорошо видно на следующем примере.

Пример 18.14

В случае двумерного нормального распределения

логарифм ФП равен (х,

Следовательно, пять уравнений правдоподобия имеют вид

(а) Предположим сначала, что надо оценить только а остальные четыре параметра известны. В этом случае надо решить одно уравнение (18.70). В нормированном виде мы уже имели дело с этой задачей в примере 18.3, где (18.70) приводит к кубическому уравнению для МП-оценки

(б) Пусть теперь оцениваются известны. Мы должны решить три уравнения правдоподобия (18.69) и (18.70). Вынося за фигурные скобки ненулевые сомножители, получаем после небольших преобразований

и

Если мы сложим уравнения (18.71) и вычтем из суммы уравнение (18.72), то получим

или

Подстановка (18.73) в (18.71) дает

Следовательно, согласно (18.73)

Таким образом, в этом случае МП-оценка есть просто выборочный коэффициент корреляции, вычисленный относительно известных генеральных средних.

(в) Предположим, наконец, что требуется оценить все пять параметров распределения. Тогда надо решать совместно пять уравнений (18.68), (18.69) и (18.70). (18.68) сводится к системе

которая имеет единственное решение

Вместе с (18.74) и (18.75), представляющими собой решения уравнений (18.69) и (18.70), (18.77) дает систему из пяти МП-оценок:

Таким образом, МП-оценками всех пяти параметров служат соответствующие выборочные средние.

18.30 Поскольку МП-оценки некоторого параметра распределения будут различными функциями наблюдений в зависимости от того, какие из других параметров этого распределения известны, то асимптотические дисперсии оценок будут также разными. Чтобы облегчить вычисление матриц рассеяния МП-оценок в случае, когда распределение допускает систему из достаточных статистик для параметров, можно воспользоваться представлением (18.64) для матрицы, обратной к асимптотической матрице рассеяния МП-оценок.

Пример 18.15

Вычислим асимптотические матрицы рассеяния МП-оценок для каждого из трех случаев, рассмотренных в примере 18.14.

(а) Когда мы оцениваем только не будет достаточной статистикой. Однако мы уже вычисляли асимптотическую дисперсию этой оценки в примере 18.6 и нашли, что

Тот факт, что мы рассматривали нормированное генеральное распределение, не имеет значения, поскольку коэффициент корреляции инвариантен по отношению к изменениям начала отсчета и масштаба.

(б) В случае оценивания трех параметров три МП-оценки, даваемые выражениями (18.74) и (18.75), совместно достаточны. Следовательно, мы можем использовать

(18.64). Записывая параметры в указанном выше порядке, находим, что матрица обратная к матрице рассеяния соответствующих оценок, имеет вид

Обращение (18.80) дает асимптотическую матрицу рассеяния

(в) При оценивании всех пяти параметров достаточную систему образуют МП-оценки (18.78). Кроме того, -матрица из (18.80) является частью -матрицы обратной к матрице рассеяния, которую мы ищем. Если записать параметры в порядке то (18.80) будет нижним главным минором для . Для элементов, включающих производные по и согласно (18.68) получаются следующие выражения:

При имеем

Обозначая теперь матрицу, обратную к матрице рассеяния МП-оценок для и равную

получаем

Чтобы получить ненулевые элементы матрицы можно обращать отдельно. Результатом обращения является (18.81). Обращение приводит к матрице

Таким образом,

где и определены равенствами (18.86) и (18.81).

Из полученного результата следует, что (ранее это было показано (см. 16.25) для произвольных объемов выборок) выборочные средние в двумерной нормальной выборке распределены независимо от выборочных дисперсий и ковариаций и что коэффициент корреляции между выборочными средними равен а между выборочными дисперсиями равен (пример 13.1).

Кейл (1962) рассматривает различные итерационные методы решения уравнений правдоподобия для нескольких параметров. в (18.62) заменяется пробным вектором (см. 18.21), так что может быть итерировано столько раз, сколько необходимо.

<< Предыдущий параграф Следующий параграф >>
Оглавление