Главная > Математика > Линейная и нелинейная регрессии
<< Предыдущий параграф
Следующий параграф >>
<< Предыдущий параграф Следующий параграф >>
Макеты страниц

7.7. Доказательства

1. Доказательство теоремы 7.1. Рассмотрим множество

замкнутое в силу непрерывности функции Оно будет также ограничено, так как в противном случае найдется такая последовательность точек из По условию ограниченности на бесконечности снизу найдется такая точка в этой последовательности, что противоречие с определением множества Таким образом, ограниченное замкнутое множество в значит, достигает на нем своего инфимума (глобального минимума).

2. Доказательство теоремы 7.2. Введем в рассмотрение функцию действительного переменного к 0. Легко проверить, что Разложим функцию в ряд Тейлора до членов второго порядка в окрестности

где Допустим, в противном случае теорему можно считать доказанной. В силу того что найдется такое , что для всех Положим где для всех Тогда и для всех т. е. Действительно, неравенство невозможно в силу непрерывности и определения А. Неравенство также неверно в силу определения А. По построению для всех Далее, по определению для всех

Очевидно, при всех Легко показать, что Пусть (0, 1/2); выберем так, чтобы

В этом случае

Принимая во внимание условие (7.23), последнее неравенство можно переписать следующим образом:

или окончательно

где причем

Последовательность имеет хотя бы одну предельную точку Докажем, что Допустим противное. Тогда можно найти такую подпоследовательность для которой Но тогда

или

Переходя к пределу при получим что противоречит ограниченности на . Последнее утверждение теоремы очевидно.

3. Доказательство теоремы 7.3. Очевидно,

Используя формулу легко показать, что

поэтому

Матрица положительно определена, такой будет и матрица Таким образом, производная квадрата длины поправки метода Левенберга по [1 отрицательна, что доказывает первую часть утверждения а). Вторая часть этого утверждения очевидна.

Докажем теперь, что является возрастающей функцией По определению

Для доказательства достаточно показать, что функция

является возрастающей по Найдем производную этой функции. Она равна:

Теперь заметим, что если квадратные симметричные матрицы, то по неравенству Шварца

Применяя полученное выше неравенство для числителя (7.48), где

приходим к выводу о положительности производной (7.48) — утверждение б) доказано. Аналогично доказывается утверждение в).

<< Предыдущий параграф Следующий параграф >>
Оглавление