Главная > Разное > Статистические выводы и связи, Т.2
<< Предыдущий параграф
Следующий параграф >>
<< Предыдущий параграф Следующий параграф >>
Макеты страниц

Последовательное оценивание

34.30 При проверке гипотез мы обычно фиксируем ошибки заранее и затем производим выборку до тех пор, пока не примем или не отвергнем гипотезу. Можно также применить последовательный процесс к оцениванию, но тогда наши задачи решаются труднее, а возможно, даже труднее формулируются. Мы проводим последовательность наблюдений с целью оценить некоторый параметр исходного распределения, но в общем случае нелегко различить, какая оценка является подходящей, каковы смещения, каковы выборочные ошибки или какими должны быть правила, определяющие окончание выборочного процесса. Основная трудность состоит в том, что объем выборки является случайной величиной. Второй неприятностью является граничный эффект, о котором мы уже говорили.

34.31 Полученный нами в (34.42) результат эквивалентен тому, что

Предположим, что существуют вторые абсолютные моменты, что дисперсия каждого равна и что существует Тогда дисперсия равна (доказательство предоставлено читателю в качестве упражнения 34.5)

и, следовательно, полагая, как и прежде, находим

Если некоррелированы, то это приводится к

Для более высоких моментов результаты были получены Волфовицем (1947) (см. упражнение 34.6). См. также и др. (1965).

34.32 Пусть теперь

Так как при условиях регулярности то на основании соотношений типа (34.95) находим

и

Если оценка параметра имеющая смещение т. е. то, дифференцируя это равенство, получаем

Далее, в силу неравенства Коши — Буняковского

и, следовательно, согласно (34.100)

Это нижняя граница дисперсии при последовательном оценивании, полученная Волфовицем. Она представляет собой вместо Волфовиц (1947) распространяет этот результат также на совместную оценку нескольких параметров.

Пример 34.11

Рассмотрим биномиальное распределение

Имеем

Если несмещенная оценка для по выборке из этого распределения, то

34.33 При большом теория последовательного оценивания сильно упрощается благодаря общему результату, принадлежащему Энскомбу (1949b, 1952, 1953). Если этот результат кратко сформулировать, то он звучит так: у статистик, для которых имеет место центральная предельная теорема, формулы стандартных ошибок в случае последовательных выборок такие же, как и в случае выборок фиксированного объема. Эвристически это можно вывести из (34.102). Величина изменяется относительно своего среднего со стандартным отклонением порядка таким образом, формулы, имеющие точность порядка остаются столь же точными, если мы используем вместо Более формально:

Пусть последовательность случайных величин. Пусть существуют действительное число 0, последовательность положительных чисел и функция распределения такие, что

(а) сходятся к в масштабе а именно:

(б) равномерно непрерывны по вероятности, а именно: для данных (малых) положительных

Пусть возрастающая последовательность положительных целых чисел, стремящаяся к бесконечности, и последовательность случайных величин, принимающих целые положительные значения, такая, что по вероятности при Тогда

во всех точках непрерывности

Сложность формулировок и доказательств обусловлена особенностями, на которые мы уже обращали внимание: граничные эффекты (представленные соотношением между и изменение

Итак, пусть выполняется (34.105); возьмем достаточно большое такое, что для любого

Рассмотрим события:

Тогда

Также

Таким образом, используя определение события находим

откуда следует (34.106). Необходимо заметить, что доказательство проведено без предположения о независимости

34.34 Применим этот результат к последовательному оцениванию. Пусть последовательность наблюдений, оценка параметра оценка масштабного параметра для Выборочное правило таково: задаем некоторую постоянную и производим выбор до первого осуществления неравенства а затем вычисляем Покажем, что является

опенкой с масштабным параметром, асимптотически равным если к мало.

Пусть выполнены условия (34.104) и (34.105) и последовательность положительных чисел, сходящаяся к нулю. Пусть последовательность случайных величин таких, что равно наименьшему целому для которого и пусть последовательность чисел таких, что равно наименьшему при котором Мы потребуем, чтобы выполнялись два дополнительных условия:

(в) монотонно сходится к нулю и когда

(г) N, является случайной величиной для всех по вероятности, когда

Условие (в) влечет при Из нашего предыдущего результата тогда следует, что

34.35 Можно также показать, что если иксы независимы и одинаково распределены, то из условий (а) и (в) (которые легко проверяются) вытекает условие (б) и распределение суммы иксов сходится к некоторой функции распределения. В частности, эти условия выполняются для оценок максимального правдоподобия, для оценок, основанных на средних значениях некоторых функций от наблюдений, и для квантилей.

Пример 34.12

Рассмотрим оценивание среднего значения нормального распределения с неизвестной дисперсией Нам требуется оценка с (малой) дисперсией

Очевидной статистикой служит Для фиксированного ее дисперсия равна и оценивается через

Условия (а) и (в), очевидно, выполняются, и благодаря результату, указанному в 34.35, это влечет за собой выполнение условия (б). Чтобы показать, что выполняется (г), применим преобразование Хельмерта

Тогда

Согласно усиленному закону больших чисел при заданных найдется такое, что

Если достаточно мало, то вероятность того, что для любого в интервале превосходит Таким образом, при условии, что из (34.111) следует, что

с вероятностью, превосходящей Следовательно, когда к стремится к нулю, условие (г) выполняется.

Здесь правило состоит в том, что мы задаем и производим выбор, пока не окажется Тогда дисперсия среднего значения х равна приблизительно

Пример 34.13

Рассмотрим пуассоновское распределение с параметром Если мы продолжаем выбор, пока дисперсия среднего, оцениваемая как не станет меньше то для мы получаем оценку х с дисперсией Это эквивалентно продолжению выбора до тех пор, пока число успехов не станет меньше Но не следует использовать этот результат при малых

С другой стороны, предположим, что мы хотим задавать заранее не дисперсию, а коэффициент вариации Тогда указанный метод не будет работать. Он означал бы, что мы продолжаем выбор, пока не станет меньше, чем I, т. е. или пока сумма наблюдений не станет меньше Но сумма должна в конце концов превзойти любое конечное число. Это связано с результатом, отмеченным в примере 34.1, где мы видели, что в случае последовательного выбора редких качественных признаков коэффициент вариации приблизительно постоянен.

<< Предыдущий параграф Следующий параграф >>
Оглавление