§6. Гладкая задача без ограничений
6.1 Постановка задачи
X — линейное нормированное пространство,
f : X → R — функционал, гладкий.
Гладкая задача без ограничений: f(x) → extr.
Теорема (аналог т. Ферма в нормированных пространствах)
Пусть ˆx ∈ locextr f, f ∈ D(ˆx) (имеет вариацию по Лагранжу в
точке ˆx.) Тогда f (ˆx) = 0 (δf(ˆx, h) = 0 ∀ h ∈ X).
¡ Возьмем произвольный, но фиксированный элемент h∈X.
Рассмотрим функцию одной переменной ϕ(λ) = f(ˆx + λh).
ˆx ∈ locextr f ⇒ 0 ∈ locextr ϕ.
По т. Ферма для функций ϕ (0) = 0 ⇔ δf(ˆx, h) = 0.
В силу произвольности h δf(ˆx, ·) = 0.
Если f ∈ D(ˆx)⇒ ∃ f (ˆx)[·] = δf(ˆx, ·) = 0 (в силу уже
доказанного) ⇒ f (ˆx) = 0. £
Галеев Э. М. МГУ
Лекции: Методы оптимизации
§6. Гладкая задача без ограничений
6.1 Постановка задачи
X — линейное нормированное пространство,
f : X → R — функционал, гладкий.
Гладкая задача без ограничений: f(x) → extr.
Теорема (аналог т. Ферма в нормированных пространствах)
Пусть ˆx ∈ locextr f, f ∈ D(ˆx) (имеет вариацию по Лагранжу в
точке ˆx.) Тогда f (ˆx) = 0 (δf(ˆx, h) = 0 ∀ h ∈ X).
¡ Возьмем произвольный, но фиксированный элемент h∈X.
Рассмотрим функцию одной переменной ϕ(λ) = f(ˆx + λh).
ˆx ∈ locextr f ⇒ 0 ∈ locextr ϕ.
По т. Ферма для функций ϕ (0) = 0 ⇔ δf(ˆx, h) = 0.
В силу произвольности h δf(ˆx, ·) = 0.
Если f ∈ D(ˆx)⇒ ∃ f (ˆx)[·] = δf(ˆx, ·) = 0 (в силу уже
доказанного) ⇒ f (ˆx) = 0. £
Галеев Э. М. МГУ
Лекции: Методы оптимизации
§6. Гладкая задача без ограничений
6.1 Постановка задачи
X — линейное нормированное пространство,
f : X → R — функционал, гладкий.
Гладкая задача без ограничений: f(x) → extr.
Теорема (аналог т. Ферма в нормированных пространствах)
Пусть ˆx ∈ locextr f, f ∈ D(ˆx) (имеет вариацию по Лагранжу в
точке ˆx.) Тогда f (ˆx) = 0 (δf(ˆx, h) = 0 ∀ h ∈ X).
¡ Возьмем произвольный, но фиксированный элемент h∈X.
Рассмотрим функцию одной переменной ϕ(λ) = f(ˆx + λh).
ˆx ∈ locextr f ⇒ 0 ∈ locextr ϕ.
По т. Ферма для функций ϕ (0) = 0 ⇔ δf(ˆx, h) = 0.
В силу произвольности h δf(ˆx, ·) = 0.
Если f ∈ D(ˆx)⇒ ∃ f (ˆx)[·] = δf(ˆx, ·) = 0 (в силу уже
доказанного) ⇒ f (ˆx) = 0. £
Галеев Э. М. МГУ
Лекции: Методы оптимизации
§6. Гладкая задача без ограничений
6.1 Постановка задачи
X — линейное нормированное пространство,
f : X → R — функционал, гладкий.
Гладкая задача без ограничений: f(x) → extr.
Теорема (аналог т. Ферма в нормированных пространствах)
Пусть ˆx ∈ locextr f, f ∈ D(ˆx) (имеет вариацию по Лагранжу в
точке ˆx.) Тогда f (ˆx) = 0 (δf(ˆx, h) = 0 ∀ h ∈ X).
¡ Возьмем произвольный, но фиксированный элемент h∈X.
Рассмотрим функцию одной переменной ϕ(λ) = f(ˆx + λh).
ˆx ∈ locextr f ⇒ 0 ∈ locextr ϕ.
По т. Ферма для функций ϕ (0) = 0 ⇔ δf(ˆx, h) = 0.
В силу произвольности h δf(ˆx, ·) = 0.
Если f ∈ D(ˆx)⇒ ∃ f (ˆx)[·] = δf(ˆx, ·) = 0 (в силу уже
доказанного) ⇒ f (ˆx) = 0. £
Галеев Э. М. МГУ
Лекции: Методы оптимизации
§6. Гладкая задача без ограничений
6.1 Постановка задачи
X — линейное нормированное пространство,
f : X → R — функционал, гладкий.
Гладкая задача без ограничений: f(x) → extr.
Теорема (аналог т. Ферма в нормированных пространствах)
Пусть ˆx ∈ locextr f, f ∈ D(ˆx) (имеет вариацию по Лагранжу в
точке ˆx.) Тогда f (ˆx) = 0 (δf(ˆx, h) = 0 ∀ h ∈ X).
¡ Возьмем произвольный, но фиксированный элемент h∈X.
Рассмотрим функцию одной переменной ϕ(λ) = f(ˆx + λh).
ˆx ∈ locextr f ⇒ 0 ∈ locextr ϕ.
По т. Ферма для функций ϕ (0) = 0 ⇔ δf(ˆx, h) = 0.
В силу произвольности h δf(ˆx, ·) = 0.
Если f ∈ D(ˆx)⇒ ∃ f (ˆx)[·] = δf(ˆx, ·) = 0 (в силу уже
доказанного) ⇒ f (ˆx) = 0. £
Галеев Э. М. МГУ
Лекции: Методы оптимизации
§6. Гладкая задача без ограничений
6.1 Постановка задачи
X — линейное нормированное пространство,
f : X → R — функционал, гладкий.
Гладкая задача без ограничений: f(x) → extr.
Теорема (аналог т. Ферма в нормированных пространствах)
Пусть ˆx ∈ locextr f, f ∈ D(ˆx) (имеет вариацию по Лагранжу в
точке ˆx.) Тогда f (ˆx) = 0 (δf(ˆx, h) = 0 ∀ h ∈ X).
¡ Возьмем произвольный, но фиксированный элемент h∈X.
Рассмотрим функцию одной переменной ϕ(λ) = f(ˆx + λh).
ˆx ∈ locextr f ⇒ 0 ∈ locextr ϕ.
По т. Ферма для функций ϕ (0) = 0 ⇔ δf(ˆx, h) = 0.
В силу произвольности h δf(ˆx, ·) = 0.
Если f ∈ D(ˆx)⇒ ∃ f (ˆx)[·] = δf(ˆx, ·) = 0 (в силу уже
доказанного) ⇒ f (ˆx) = 0. £
Галеев Э. М. МГУ
Лекции: Методы оптимизации
§6. Гладкая задача без ограничений
6.1 Постановка задачи
X — линейное нормированное пространство,
f : X → R — функционал, гладкий.
Гладкая задача без ограничений: f(x) → extr.
Теорема (аналог т. Ферма в нормированных пространствах)
Пусть ˆx ∈ locextr f, f ∈ D(ˆx) (имеет вариацию по Лагранжу в
точке ˆx.) Тогда f (ˆx) = 0 (δf(ˆx, h) = 0 ∀ h ∈ X).
¡ Возьмем произвольный, но фиксированный элемент h∈X.
Рассмотрим функцию одной переменной ϕ(λ) = f(ˆx + λh).
ˆx ∈ locextr f ⇒ 0 ∈ locextr ϕ.
По т. Ферма для функций ϕ (0) = 0 ⇔ δf(ˆx, h) = 0.
В силу произвольности h δf(ˆx, ·) = 0.
Если f ∈ D(ˆx)⇒ ∃ f (ˆx)[·] = δf(ˆx, ·) = 0 (в силу уже
доказанного) ⇒ f (ˆx) = 0. £
Галеев Э. М. МГУ
Лекции: Методы оптимизации
§6. Гладкая задача без ограничений
6.1 Постановка задачи
X — линейное нормированное пространство,
f : X → R — функционал, гладкий.
Гладкая задача без ограничений: f(x) → extr.
Теорема (аналог т. Ферма в нормированных пространствах)
Пусть ˆx ∈ locextr f, f ∈ D(ˆx) (имеет вариацию по Лагранжу в
точке ˆx.) Тогда f (ˆx) = 0 (δf(ˆx, h) = 0 ∀ h ∈ X).
¡ Возьмем произвольный, но фиксированный элемент h∈X.
Рассмотрим функцию одной переменной ϕ(λ) = f(ˆx + λh).
ˆx ∈ locextr f ⇒ 0 ∈ locextr ϕ.
По т. Ферма для функций ϕ (0) = 0 ⇔ δf(ˆx, h) = 0.
В силу произвольности h δf(ˆx, ·) = 0.
Если f ∈ D(ˆx)⇒ ∃ f (ˆx)[·] = δf(ˆx, ·) = 0 (в силу уже
доказанного) ⇒ f (ˆx) = 0. £
Галеев Э. М. МГУ
Лекции: Методы оптимизации
§6. Гладкая задача без ограничений
6.1 Постановка задачи
X — линейное нормированное пространство,
f : X → R — функционал, гладкий.
Гладкая задача без ограничений: f(x) → extr.
Теорема (аналог т. Ферма в нормированных пространствах)
Пусть ˆx ∈ locextr f, f ∈ D(ˆx) (имеет вариацию по Лагранжу в
точке ˆx.) Тогда f (ˆx) = 0 (δf(ˆx, h) = 0 ∀ h ∈ X).
¡ Возьмем произвольный, но фиксированный элемент h∈X.
Рассмотрим функцию одной переменной ϕ(λ) = f(ˆx + λh).
ˆx ∈ locextr f ⇒ 0 ∈ locextr ϕ.
По т. Ферма для функций ϕ (0) = 0 ⇔ δf(ˆx, h) = 0.
В силу произвольности h δf(ˆx, ·) = 0.
Если f ∈ D(ˆx)⇒ ∃ f (ˆx)[·] = δf(ˆx, ·) = 0 (в силу уже
доказанного) ⇒ f (ˆx) = 0. £
Галеев Э. М. МГУ
Лекции: Методы оптимизации
§6. Гладкая задача без ограничений
6.1 Постановка задачи
X — линейное нормированное пространство,
f : X → R — функционал, гладкий.
Гладкая задача без ограничений: f(x) → extr.
Теорема (аналог т. Ферма в нормированных пространствах)
Пусть ˆx ∈ locextr f, f ∈ D(ˆx) (имеет вариацию по Лагранжу в
точке ˆx.) Тогда f (ˆx) = 0 (δf(ˆx, h) = 0 ∀ h ∈ X).
¡ Возьмем произвольный, но фиксированный элемент h∈X.
Рассмотрим функцию одной переменной ϕ(λ) = f(ˆx + λh).
ˆx ∈ locextr f ⇒ 0 ∈ locextr ϕ.
По т. Ферма для функций ϕ (0) = 0 ⇔ δf(ˆx, h) = 0.
В силу произвольности h δf(ˆx, ·) = 0.
Если f ∈ D(ˆx)⇒ ∃ f (ˆx)[·] = δf(ˆx, ·) = 0 (в силу уже
доказанного) ⇒ f (ˆx) = 0. £
Галеев Э. М. МГУ
Лекции: Методы оптимизации
§6. Гладкая задача без ограничений
6.1 Постановка задачи
X — линейное нормированное пространство,
f : X → R — функционал, гладкий.
Гладкая задача без ограничений: f(x) → extr.
Теорема (аналог т. Ферма в нормированных пространствах)
Пусть ˆx ∈ locextr f, f ∈ D(ˆx) (имеет вариацию по Лагранжу в
точке ˆx.) Тогда f (ˆx) = 0 (δf(ˆx, h) = 0 ∀ h ∈ X).
¡ Возьмем произвольный, но фиксированный элемент h∈X.
Рассмотрим функцию одной переменной ϕ(λ) = f(ˆx + λh).
ˆx ∈ locextr f ⇒ 0 ∈ locextr ϕ.
По т. Ферма для функций ϕ (0) = 0 ⇔ δf(ˆx, h) = 0.
В силу произвольности h δf(ˆx, ·) = 0.
Если f ∈ D(ˆx)⇒ ∃ f (ˆx)[·] = δf(ˆx, ·) = 0 (в силу уже
доказанного) ⇒ f (ˆx) = 0. £
Галеев Э. М. МГУ
Лекции: Методы оптимизации
§6. Гладкая задача без ограничений
6.1 Постановка задачи
X — линейное нормированное пространство,
f : X → R — функционал, гладкий.
Гладкая задача без ограничений: f(x) → extr.
Теорема (аналог т. Ферма в нормированных пространствах)
Пусть ˆx ∈ locextr f, f ∈ D(ˆx) (имеет вариацию по Лагранжу в
точке ˆx.) Тогда f (ˆx) = 0 (δf(ˆx, h) = 0 ∀ h ∈ X).
¡ Возьмем произвольный, но фиксированный элемент h∈X.
Рассмотрим функцию одной переменной ϕ(λ) = f(ˆx + λh).
ˆx ∈ locextr f ⇒ 0 ∈ locextr ϕ.
По т. Ферма для функций ϕ (0) = 0 ⇔ δf(ˆx, h) = 0.
В силу произвольности h δf(ˆx, ·) = 0.
Если f ∈ D(ˆx)⇒ ∃ f (ˆx)[·] = δf(ˆx, ·) = 0 (в силу уже
доказанного) ⇒ f (ˆx) = 0. £
Галеев Э. М. МГУ
Лекции: Методы оптимизации
§6. Гладкая задача без ограничений
6.1 Постановка задачи
X — линейное нормированное пространство,
f : X → R — функционал, гладкий.
Гладкая задача без ограничений: f(x) → extr.
Теорема (аналог т. Ферма в нормированных пространствах)
Пусть ˆx ∈ locextr f, f ∈ D(ˆx) (имеет вариацию по Лагранжу в
точке ˆx.) Тогда f (ˆx) = 0 (δf(ˆx, h) = 0 ∀ h ∈ X).
¡ Возьмем произвольный, но фиксированный элемент h∈X.
Рассмотрим функцию одной переменной ϕ(λ) = f(ˆx + λh).
ˆx ∈ locextr f ⇒ 0 ∈ locextr ϕ.
По т. Ферма для функций ϕ (0) = 0 ⇔ δf(ˆx, h) = 0.
В силу произвольности h δf(ˆx, ·) = 0.
Если f ∈ D(ˆx)⇒ ∃ f (ˆx)[·] = δf(ˆx, ·) = 0 (в силу уже
доказанного) ⇒ f (ˆx) = 0. £
Галеев Э. М. МГУ
Лекции: Методы оптимизации
§6. Гладкая задача без ограничений
6.1 Постановка задачи
X — линейное нормированное пространство,
f : X → R — функционал, гладкий.
Гладкая задача без ограничений: f(x) → extr.
Теорема (аналог т. Ферма в нормированных пространствах)
Пусть ˆx ∈ locextr f, f ∈ D(ˆx) (имеет вариацию по Лагранжу в
точке ˆx.) Тогда f (ˆx) = 0 (δf(ˆx, h) = 0 ∀ h ∈ X).
¡ Возьмем произвольный, но фиксированный элемент h∈X.
Рассмотрим функцию одной переменной ϕ(λ) = f(ˆx + λh).
ˆx ∈ locextr f ⇒ 0 ∈ locextr ϕ.
По т. Ферма для функций ϕ (0) = 0 ⇔ δf(ˆx, h) = 0.
В силу произвольности h δf(ˆx, ·) = 0.
Если f ∈ D(ˆx)⇒ ∃ f (ˆx)[·] = δf(ˆx, ·) = 0 (в силу уже
доказанного) ⇒ f (ˆx) = 0. £
Галеев Э. М. МГУ
Лекции: Методы оптимизации
§6. Гладкая задача без ограничений
6.1 Постановка задачи
X — линейное нормированное пространство,
f : X → R — функционал, гладкий.
Гладкая задача без ограничений: f(x) → extr.
Теорема (аналог т. Ферма в нормированных пространствах)
Пусть ˆx ∈ locextr f, f ∈ D(ˆx) (имеет вариацию по Лагранжу в
точке ˆx.) Тогда f (ˆx) = 0 (δf(ˆx, h) = 0 ∀ h ∈ X).
¡ Возьмем произвольный, но фиксированный элемент h∈X.
Рассмотрим функцию одной переменной ϕ(λ) = f(ˆx + λh).
ˆx ∈ locextr f ⇒ 0 ∈ locextr ϕ.
По т. Ферма для функций ϕ (0) = 0 ⇔ δf(ˆx, h) = 0.
В силу произвольности h δf(ˆx, ·) = 0.
Если f ∈ D(ˆx)⇒ ∃ f (ˆx)[·] = δf(ˆx, ·) = 0 (в силу уже
доказанного) ⇒ f (ˆx) = 0. £
Галеев Э. М. МГУ
Лекции: Методы оптимизации
§6. Гладкая задача без ограничений
6.1 Постановка задачи
X — линейное нормированное пространство,
f : X → R — функционал, гладкий.
Гладкая задача без ограничений: f(x) → extr.
Теорема (аналог т. Ферма в нормированных пространствах)
Пусть ˆx ∈ locextr f, f ∈ D(ˆx) (имеет вариацию по Лагранжу в
точке ˆx.) Тогда f (ˆx) = 0 (δf(ˆx, h) = 0 ∀ h ∈ X).
¡ Возьмем произвольный, но фиксированный элемент h∈X.
Рассмотрим функцию одной переменной ϕ(λ) = f(ˆx + λh).
ˆx ∈ locextr f ⇒ 0 ∈ locextr ϕ.
По т. Ферма для функций ϕ (0) = 0 ⇔ δf(ˆx, h) = 0.
В силу произвольности h δf(ˆx, ·) = 0.
Если f ∈ D(ˆx)⇒ ∃ f (ˆx)[·] = δf(ˆx, ·) = 0 (в силу уже
доказанного) ⇒ f (ˆx) = 0. £
Галеев Э. М. МГУ
Лекции: Методы оптимизации
§6. Гладкая задача без ограничений
6.1 Постановка задачи
X — линейное нормированное пространство,
f : X → R — функционал, гладкий.
Гладкая задача без ограничений: f(x) → extr.
Теорема (аналог т. Ферма в нормированных пространствах)
Пусть ˆx ∈ locextr f, f ∈ D(ˆx) (имеет вариацию по Лагранжу в
точке ˆx.) Тогда f (ˆx) = 0 (δf(ˆx, h) = 0 ∀ h ∈ X).
¡ Возьмем произвольный, но фиксированный элемент h∈X.
Рассмотрим функцию одной переменной ϕ(λ) = f(ˆx + λh).
ˆx ∈ locextr f ⇒ 0 ∈ locextr ϕ.
По т. Ферма для функций ϕ (0) = 0 ⇔ δf(ˆx, h) = 0.
В силу произвольности h δf(ˆx, ·) = 0.
Если f ∈ D(ˆx)⇒ ∃ f (ˆx)[·] = δf(ˆx, ·) = 0 (в силу уже
доказанного) ⇒ f (ˆx) = 0. £
Галеев Э. М. МГУ
Лекции: Методы оптимизации
§6. Гладкая задача без ограничений
6.1 Постановка задачи
X — линейное нормированное пространство,
f : X → R — функционал, гладкий.
Гладкая задача без ограничений: f(x) → extr.
Теорема (аналог т. Ферма в нормированных пространствах)
Пусть ˆx ∈ locextr f, f ∈ D(ˆx) (имеет вариацию по Лагранжу в
точке ˆx.) Тогда f (ˆx) = 0 (δf(ˆx, h) = 0 ∀ h ∈ X).
¡ Возьмем произвольный, но фиксированный элемент h∈X.
Рассмотрим функцию одной переменной ϕ(λ) = f(ˆx + λh).
ˆx ∈ locextr f ⇒ 0 ∈ locextr ϕ.
По т. Ферма для функций ϕ (0) = 0 ⇔ δf(ˆx, h) = 0.
В силу произвольности h δf(ˆx, ·) = 0.
Если f ∈ D(ˆx)⇒ ∃ f (ˆx)[·] = δf(ˆx, ·) = 0 (в силу уже
доказанного) ⇒ f (ˆx) = 0. £
Галеев Э. М. МГУ
Лекции: Методы оптимизации
§6. Гладкая задача без ограничений
6.1 Постановка задачи
X — линейное нормированное пространство,
f : X → R — функционал, гладкий.
Гладкая задача без ограничений: f(x) → extr.
Теорема (аналог т. Ферма в нормированных пространствах)
Пусть ˆx ∈ locextr f, f ∈ D(ˆx) (имеет вариацию по Лагранжу в
точке ˆx.) Тогда f (ˆx) = 0 (δf(ˆx, h) = 0 ∀ h ∈ X).
¡ Возьмем произвольный, но фиксированный элемент h∈X.
Рассмотрим функцию одной переменной ϕ(λ) = f(ˆx + λh).
ˆx ∈ locextr f ⇒ 0 ∈ locextr ϕ.
По т. Ферма для функций ϕ (0) = 0 ⇔ δf(ˆx, h) = 0.
В силу произвольности h δf(ˆx, ·) = 0.
Если f ∈ D(ˆx)⇒ ∃ f (ˆx)[·] = δf(ˆx, ·) = 0 (в силу уже
доказанного) ⇒ f (ˆx) = 0. £
Галеев Э. М. МГУ
Лекции: Методы оптимизации
§6. Гладкая задача без ограничений
6.1 Постановка задачи
X — линейное нормированное пространство,
f : X → R — функционал, гладкий.
Гладкая задача без ограничений: f(x) → extr.
Теорема (аналог т. Ферма в нормированных пространствах)
Пусть ˆx ∈ locextr f, f ∈ D(ˆx) (имеет вариацию по Лагранжу в
точке ˆx.) Тогда f (ˆx) = 0 (δf(ˆx, h) = 0 ∀ h ∈ X).
¡ Возьмем произвольный, но фиксированный элемент h∈X.
Рассмотрим функцию одной переменной ϕ(λ) = f(ˆx + λh).
ˆx ∈ locextr f ⇒ 0 ∈ locextr ϕ.
По т. Ферма для функций ϕ (0) = 0 ⇔ δf(ˆx, h) = 0.
В силу произвольности h δf(ˆx, ·) = 0.
Если f ∈ D(ˆx)⇒ ∃ f (ˆx)[·] = δf(ˆx, ·) = 0 (в силу уже
доказанного) ⇒ f (ˆx) = 0. £
Галеев Э. М. МГУ
Лекции: Методы оптимизации
Теорема (необходимые и достаточные условия II порядка)
Необходимые условия экстремума: если ˆx ∈ locmin f и
f ∈ D2(ˆx), то f (ˆx) = 0, f (ˆx)h, h ≥ 0 ∀ h ∈ X.
Достаточные условия экстремума: если f (ˆx) = 0,
∃ α > 0 : f (ˆx)h, h ≥ α h 2 ∀ h ∈ X, то ˆx ∈ locmin f.
¡ По формуле Тейлора
f(ˆx +h) = f(ˆx)+ f (ˆx), h + 1
2 f (ˆx)[h, h]+r(h), r(h) = o( h 2
).
Необходимость. Пусть ˆx ∈ locmin f. Тогда по аналогу
т. Ферма f (ˆx) = 0, следовательно, по формуле Тейлора
f(ˆx + λh) − f(ˆx) = λ2
2 f (ˆx)[h, h] + r(λh), r(λh) = o(|λ|2
)
при малых λ и фиксированном h. Поскольку ˆx ∈ locmin f, то
f(ˆx + λh) − f(ˆx) ≥ 0. Поэтому λ2
2 f (ˆx)[h, h] + r(λh) ≥ 0.
Разделим обе части последнего неравенства на λ2 и
устремим λ к нулю. Поскольку r(λh)
λ2 → 0, то f (ˆx)[h, h] ≥ 0.
Галеев Э. М. МГУ
Лекции: Методы оптимизации
Теорема (необходимые и достаточные условия II порядка)
Необходимые условия экстремума: если ˆx ∈ locmin f и
f ∈ D2(ˆx), то f (ˆx) = 0, f (ˆx)h, h ≥ 0 ∀ h ∈ X.
Достаточные условия экстремума: если f (ˆx) = 0,
∃ α > 0 : f (ˆx)h, h ≥ α h 2 ∀ h ∈ X, то ˆx ∈ locmin f.
¡ По формуле Тейлора
f(ˆx +h) = f(ˆx)+ f (ˆx), h + 1
2 f (ˆx)[h, h]+r(h), r(h) = o( h 2
).
Необходимость. Пусть ˆx ∈ locmin f. Тогда по аналогу
т. Ферма f (ˆx) = 0, следовательно, по формуле Тейлора
f(ˆx + λh) − f(ˆx) = λ2
2 f (ˆx)[h, h] + r(λh), r(λh) = o(|λ|2
)
при малых λ и фиксированном h. Поскольку ˆx ∈ locmin f, то
f(ˆx + λh) − f(ˆx) ≥ 0. Поэтому λ2
2 f (ˆx)[h, h] + r(λh) ≥ 0.
Разделим обе части последнего неравенства на λ2 и
устремим λ к нулю. Поскольку r(λh)
λ2 → 0, то f (ˆx)[h, h] ≥ 0.
Галеев Э. М. МГУ
Лекции: Методы оптимизации
Теорема (необходимые и достаточные условия II порядка)
Необходимые условия экстремума: если ˆx ∈ locmin f и
f ∈ D2(ˆx), то f (ˆx) = 0, f (ˆx)h, h ≥ 0 ∀ h ∈ X.
Достаточные условия экстремума: если f (ˆx) = 0,
∃ α > 0 : f (ˆx)h, h ≥ α h 2 ∀ h ∈ X, то ˆx ∈ locmin f.
¡ По формуле Тейлора
f(ˆx +h) = f(ˆx)+ f (ˆx), h + 1
2 f (ˆx)[h, h]+r(h), r(h) = o( h 2
).
Необходимость. Пусть ˆx ∈ locmin f. Тогда по аналогу
т. Ферма f (ˆx) = 0, следовательно, по формуле Тейлора
f(ˆx + λh) − f(ˆx) = λ2
2 f (ˆx)[h, h] + r(λh), r(λh) = o(|λ|2
)
при малых λ и фиксированном h. Поскольку ˆx ∈ locmin f, то
f(ˆx + λh) − f(ˆx) ≥ 0. Поэтому λ2
2 f (ˆx)[h, h] + r(λh) ≥ 0.
Разделим обе части последнего неравенства на λ2 и
устремим λ к нулю. Поскольку r(λh)
λ2 → 0, то f (ˆx)[h, h] ≥ 0.
Галеев Э. М. МГУ
Лекции: Методы оптимизации
Теорема (необходимые и достаточные условия II порядка)
Необходимые условия экстремума: если ˆx ∈ locmin f и
f ∈ D2(ˆx), то f (ˆx) = 0, f (ˆx)h, h ≥ 0 ∀ h ∈ X.
Достаточные условия экстремума: если f (ˆx) = 0,
∃ α > 0 : f (ˆx)h, h ≥ α h 2 ∀ h ∈ X, то ˆx ∈ locmin f.
¡ По формуле Тейлора
f(ˆx +h) = f(ˆx)+ f (ˆx), h + 1
2 f (ˆx)[h, h]+r(h), r(h) = o( h 2
).
Необходимость. Пусть ˆx ∈ locmin f. Тогда по аналогу
т. Ферма f (ˆx) = 0, следовательно, по формуле Тейлора
f(ˆx + λh) − f(ˆx) = λ2
2 f (ˆx)[h, h] + r(λh), r(λh) = o(|λ|2
)
при малых λ и фиксированном h. Поскольку ˆx ∈ locmin f, то
f(ˆx + λh) − f(ˆx) ≥ 0. Поэтому λ2
2 f (ˆx)[h, h] + r(λh) ≥ 0.
Разделим обе части последнего неравенства на λ2 и
устремим λ к нулю. Поскольку r(λh)
λ2 → 0, то f (ˆx)[h, h] ≥ 0.
Галеев Э. М. МГУ
Лекции: Методы оптимизации
Теорема (необходимые и достаточные условия II порядка)
Необходимые условия экстремума: если ˆx ∈ locmin f и
f ∈ D2(ˆx), то f (ˆx) = 0, f (ˆx)h, h ≥ 0 ∀ h ∈ X.
Достаточные условия экстремума: если f (ˆx) = 0,
∃ α > 0 : f (ˆx)h, h ≥ α h 2 ∀ h ∈ X, то ˆx ∈ locmin f.
¡ По формуле Тейлора
f(ˆx +h) = f(ˆx)+ f (ˆx), h + 1
2 f (ˆx)[h, h]+r(h), r(h) = o( h 2
).
Необходимость. Пусть ˆx ∈ locmin f. Тогда по аналогу
т. Ферма f (ˆx) = 0, следовательно, по формуле Тейлора
f(ˆx + λh) − f(ˆx) = λ2
2 f (ˆx)[h, h] + r(λh), r(λh) = o(|λ|2
)
при малых λ и фиксированном h. Поскольку ˆx ∈ locmin f, то
f(ˆx + λh) − f(ˆx) ≥ 0. Поэтому λ2
2 f (ˆx)[h, h] + r(λh) ≥ 0.
Разделим обе части последнего неравенства на λ2 и
устремим λ к нулю. Поскольку r(λh)
λ2 → 0, то f (ˆx)[h, h] ≥ 0.
Галеев Э. М. МГУ
Лекции: Методы оптимизации
Теорема (необходимые и достаточные условия II порядка)
Необходимые условия экстремума: если ˆx ∈ locmin f и
f ∈ D2(ˆx), то f (ˆx) = 0, f (ˆx)h, h ≥ 0 ∀ h ∈ X.
Достаточные условия экстремума: если f (ˆx) = 0,
∃ α > 0 : f (ˆx)h, h ≥ α h 2 ∀ h ∈ X, то ˆx ∈ locmin f.
¡ По формуле Тейлора
f(ˆx +h) = f(ˆx)+ f (ˆx), h + 1
2 f (ˆx)[h, h]+r(h), r(h) = o( h 2
).
Необходимость. Пусть ˆx ∈ locmin f. Тогда по аналогу
т. Ферма f (ˆx) = 0, следовательно, по формуле Тейлора
f(ˆx + λh) − f(ˆx) = λ2
2 f (ˆx)[h, h] + r(λh), r(λh) = o(|λ|2
)
при малых λ и фиксированном h. Поскольку ˆx ∈ locmin f, то
f(ˆx + λh) − f(ˆx) ≥ 0. Поэтому λ2
2 f (ˆx)[h, h] + r(λh) ≥ 0.
Разделим обе части последнего неравенства на λ2 и
устремим λ к нулю. Поскольку r(λh)
λ2 → 0, то f (ˆx)[h, h] ≥ 0.
Галеев Э. М. МГУ
Лекции: Методы оптимизации
Теорема (необходимые и достаточные условия II порядка)
Необходимые условия экстремума: если ˆx ∈ locmin f и
f ∈ D2(ˆx), то f (ˆx) = 0, f (ˆx)h, h ≥ 0 ∀ h ∈ X.
Достаточные условия экстремума: если f (ˆx) = 0,
∃ α > 0 : f (ˆx)h, h ≥ α h 2 ∀ h ∈ X, то ˆx ∈ locmin f.
¡ По формуле Тейлора
f(ˆx +h) = f(ˆx)+ f (ˆx), h + 1
2 f (ˆx)[h, h]+r(h), r(h) = o( h 2
).
Необходимость. Пусть ˆx ∈ locmin f. Тогда по аналогу
т. Ферма f (ˆx) = 0, следовательно, по формуле Тейлора
f(ˆx + λh) − f(ˆx) = λ2
2 f (ˆx)[h, h] + r(λh), r(λh) = o(|λ|2
)
при малых λ и фиксированном h. Поскольку ˆx ∈ locmin f, то
f(ˆx + λh) − f(ˆx) ≥ 0. Поэтому λ2
2 f (ˆx)[h, h] + r(λh) ≥ 0.
Разделим обе части последнего неравенства на λ2 и
устремим λ к нулю. Поскольку r(λh)
λ2 → 0, то f (ˆx)[h, h] ≥ 0.
Галеев Э. М. МГУ
Лекции: Методы оптимизации
Теорема (необходимые и достаточные условия II порядка)
Необходимые условия экстремума: если ˆx ∈ locmin f и
f ∈ D2(ˆx), то f (ˆx) = 0, f (ˆx)h, h ≥ 0 ∀ h ∈ X.
Достаточные условия экстремума: если f (ˆx) = 0,
∃ α > 0 : f (ˆx)h, h ≥ α h 2 ∀ h ∈ X, то ˆx ∈ locmin f.
¡ По формуле Тейлора
f(ˆx +h) = f(ˆx)+ f (ˆx), h + 1
2 f (ˆx)[h, h]+r(h), r(h) = o( h 2
).
Необходимость. Пусть ˆx ∈ locmin f. Тогда по аналогу
т. Ферма f (ˆx) = 0, следовательно, по формуле Тейлора
f(ˆx + λh) − f(ˆx) = λ2
2 f (ˆx)[h, h] + r(λh), r(λh) = o(|λ|2
)
при малых λ и фиксированном h. Поскольку ˆx ∈ locmin f, то
f(ˆx + λh) − f(ˆx) ≥ 0. Поэтому λ2
2 f (ˆx)[h, h] + r(λh) ≥ 0.
Разделим обе части последнего неравенства на λ2 и
устремим λ к нулю. Поскольку r(λh)
λ2 → 0, то f (ˆx)[h, h] ≥ 0.
Галеев Э. М. МГУ
Лекции: Методы оптимизации
Теорема (необходимые и достаточные условия II порядка)
Необходимые условия экстремума: если ˆx ∈ locmin f и
f ∈ D2(ˆx), то f (ˆx) = 0, f (ˆx)h, h ≥ 0 ∀ h ∈ X.
Достаточные условия экстремума: если f (ˆx) = 0,
∃ α > 0 : f (ˆx)h, h ≥ α h 2 ∀ h ∈ X, то ˆx ∈ locmin f.
¡ По формуле Тейлора
f(ˆx +h) = f(ˆx)+ f (ˆx), h + 1
2 f (ˆx)[h, h]+r(h), r(h) = o( h 2
).
Необходимость. Пусть ˆx ∈ locmin f. Тогда по аналогу
т. Ферма f (ˆx) = 0, следовательно, по формуле Тейлора
f(ˆx + λh) − f(ˆx) = λ2
2 f (ˆx)[h, h] + r(λh), r(λh) = o(|λ|2
)
при малых λ и фиксированном h. Поскольку ˆx ∈ locmin f, то
f(ˆx + λh) − f(ˆx) ≥ 0. Поэтому λ2
2 f (ˆx)[h, h] + r(λh) ≥ 0.
Разделим обе части последнего неравенства на λ2 и
устремим λ к нулю. Поскольку r(λh)
λ2 → 0, то f (ˆx)[h, h] ≥ 0.
Галеев Э. М. МГУ
Лекции: Методы оптимизации
Теорема (необходимые и достаточные условия II порядка)
Необходимые условия экстремума: если ˆx ∈ locmin f и
f ∈ D2(ˆx), то f (ˆx) = 0, f (ˆx)h, h ≥ 0 ∀ h ∈ X.
Достаточные условия экстремума: если f (ˆx) = 0,
∃ α > 0 : f (ˆx)h, h ≥ α h 2 ∀ h ∈ X, то ˆx ∈ locmin f.
¡ По формуле Тейлора
f(ˆx +h) = f(ˆx)+ f (ˆx), h + 1
2 f (ˆx)[h, h]+r(h), r(h) = o( h 2
).
Необходимость. Пусть ˆx ∈ locmin f. Тогда по аналогу
т. Ферма f (ˆx) = 0, следовательно, по формуле Тейлора
f(ˆx + λh) − f(ˆx) = λ2
2 f (ˆx)[h, h] + r(λh), r(λh) = o(|λ|2
)
при малых λ и фиксированном h. Поскольку ˆx ∈ locmin f, то
f(ˆx + λh) − f(ˆx) ≥ 0. Поэтому λ2
2 f (ˆx)[h, h] + r(λh) ≥ 0.
Разделим обе части последнего неравенства на λ2 и
устремим λ к нулю. Поскольку r(λh)
λ2 → 0, то f (ˆx)[h, h] ≥ 0.
Галеев Э. М. МГУ
Лекции: Методы оптимизации
Теорема (необходимые и достаточные условия II порядка)
Необходимые условия экстремума: если ˆx ∈ locmin f и
f ∈ D2(ˆx), то f (ˆx) = 0, f (ˆx)h, h ≥ 0 ∀ h ∈ X.
Достаточные условия экстремума: если f (ˆx) = 0,
∃ α > 0 : f (ˆx)h, h ≥ α h 2 ∀ h ∈ X, то ˆx ∈ locmin f.
¡ По формуле Тейлора
f(ˆx +h) = f(ˆx)+ f (ˆx), h + 1
2 f (ˆx)[h, h]+r(h), r(h) = o( h 2
).
Необходимость. Пусть ˆx ∈ locmin f. Тогда по аналогу
т. Ферма f (ˆx) = 0, следовательно, по формуле Тейлора
f(ˆx + λh) − f(ˆx) = λ2
2 f (ˆx)[h, h] + r(λh), r(λh) = o(|λ|2
)
при малых λ и фиксированном h. Поскольку ˆx ∈ locmin f, то
f(ˆx + λh) − f(ˆx) ≥ 0. Поэтому λ2
2 f (ˆx)[h, h] + r(λh) ≥ 0.
Разделим обе части последнего неравенства на λ2 и
устремим λ к нулю. Поскольку r(λh)
λ2 → 0, то f (ˆx)[h, h] ≥ 0.
Галеев Э. М. МГУ
Лекции: Методы оптимизации
Теорема (необходимые и достаточные условия II порядка)
Необходимые условия экстремума: если ˆx ∈ locmin f и
f ∈ D2(ˆx), то f (ˆx) = 0, f (ˆx)h, h ≥ 0 ∀ h ∈ X.
Достаточные условия экстремума: если f (ˆx) = 0,
∃ α > 0 : f (ˆx)h, h ≥ α h 2 ∀ h ∈ X, то ˆx ∈ locmin f.
¡ По формуле Тейлора
f(ˆx +h) = f(ˆx)+ f (ˆx), h + 1
2 f (ˆx)[h, h]+r(h), r(h) = o( h 2
).
Необходимость. Пусть ˆx ∈ locmin f. Тогда по аналогу
т. Ферма f (ˆx) = 0, следовательно, по формуле Тейлора
f(ˆx + λh) − f(ˆx) = λ2
2 f (ˆx)[h, h] + r(λh), r(λh) = o(|λ|2
)
при малых λ и фиксированном h. Поскольку ˆx ∈ locmin f, то
f(ˆx + λh) − f(ˆx) ≥ 0. Поэтому λ2
2 f (ˆx)[h, h] + r(λh) ≥ 0.
Разделим обе части последнего неравенства на λ2 и
устремим λ к нулю. Поскольку r(λh)
λ2 → 0, то f (ˆx)[h, h] ≥ 0.
Галеев Э. М. МГУ
Лекции: Методы оптимизации
Теорема (необходимые и достаточные условия II порядка)
Необходимые условия экстремума: если ˆx ∈ locmin f и
f ∈ D2(ˆx), то f (ˆx) = 0, f (ˆx)h, h ≥ 0 ∀ h ∈ X.
Достаточные условия экстремума: если f (ˆx) = 0,
∃ α > 0 : f (ˆx)h, h ≥ α h 2 ∀ h ∈ X, то ˆx ∈ locmin f.
¡ По формуле Тейлора
f(ˆx +h) = f(ˆx)+ f (ˆx), h + 1
2 f (ˆx)[h, h]+r(h), r(h) = o( h 2
).
Необходимость. Пусть ˆx ∈ locmin f. Тогда по аналогу
т. Ферма f (ˆx) = 0, следовательно, по формуле Тейлора
f(ˆx + λh) − f(ˆx) = λ2
2 f (ˆx)[h, h] + r(λh), r(λh) = o(|λ|2
)
при малых λ и фиксированном h. Поскольку ˆx ∈ locmin f, то
f(ˆx + λh) − f(ˆx) ≥ 0. Поэтому λ2
2 f (ˆx)[h, h] + r(λh) ≥ 0.
Разделим обе части последнего неравенства на λ2 и
устремим λ к нулю. Поскольку r(λh)
λ2 → 0, то f (ˆx)[h, h] ≥ 0.
Галеев Э. М. МГУ
Лекции: Методы оптимизации
Теорема (необходимые и достаточные условия II порядка)
Необходимые условия экстремума: если ˆx ∈ locmin f и
f ∈ D2(ˆx), то f (ˆx) = 0, f (ˆx)h, h ≥ 0 ∀ h ∈ X.
Достаточные условия экстремума: если f (ˆx) = 0,
∃ α > 0 : f (ˆx)h, h ≥ α h 2 ∀ h ∈ X, то ˆx ∈ locmin f.
¡ По формуле Тейлора
f(ˆx +h) = f(ˆx)+ f (ˆx), h + 1
2 f (ˆx)[h, h]+r(h), r(h) = o( h 2
).
Необходимость. Пусть ˆx ∈ locmin f. Тогда по аналогу
т. Ферма f (ˆx) = 0, следовательно, по формуле Тейлора
f(ˆx + λh) − f(ˆx) = λ2
2 f (ˆx)[h, h] + r(λh), r(λh) = o(|λ|2
)
при малых λ и фиксированном h. Поскольку ˆx ∈ locmin f, то
f(ˆx + λh) − f(ˆx) ≥ 0. Поэтому λ2
2 f (ˆx)[h, h] + r(λh) ≥ 0.
Разделим обе части последнего неравенства на λ2 и
устремим λ к нулю. Поскольку r(λh)
λ2 → 0, то f (ˆx)[h, h] ≥ 0.
Галеев Э. М. МГУ
Лекции: Методы оптимизации
Теорема (необходимые и достаточные условия II порядка)
Необходимые условия экстремума: если ˆx ∈ locmin f и
f ∈ D2(ˆx), то f (ˆx) = 0, f (ˆx)h, h ≥ 0 ∀ h ∈ X.
Достаточные условия экстремума: если f (ˆx) = 0,
∃ α > 0 : f (ˆx)h, h ≥ α h 2 ∀ h ∈ X, то ˆx ∈ locmin f.
¡ По формуле Тейлора
f(ˆx +h) = f(ˆx)+ f (ˆx), h + 1
2 f (ˆx)[h, h]+r(h), r(h) = o( h 2
).
Необходимость. Пусть ˆx ∈ locmin f. Тогда по аналогу
т. Ферма f (ˆx) = 0, следовательно, по формуле Тейлора
f(ˆx + λh) − f(ˆx) = λ2
2 f (ˆx)[h, h] + r(λh), r(λh) = o(|λ|2
)
при малых λ и фиксированном h. Поскольку ˆx ∈ locmin f, то
f(ˆx + λh) − f(ˆx) ≥ 0. Поэтому λ2
2 f (ˆx)[h, h] + r(λh) ≥ 0.
Разделим обе части последнего неравенства на λ2 и
устремим λ к нулю. Поскольку r(λh)
λ2 → 0, то f (ˆx)[h, h] ≥ 0.
Галеев Э. М. МГУ
Лекции: Методы оптимизации
Теорема (необходимые и достаточные условия II порядка)
Необходимые условия экстремума: если ˆx ∈ locmin f и
f ∈ D2(ˆx), то f (ˆx) = 0, f (ˆx)h, h ≥ 0 ∀ h ∈ X.
Достаточные условия экстремума: если f (ˆx) = 0,
∃ α > 0 : f (ˆx)h, h ≥ α h 2 ∀ h ∈ X, то ˆx ∈ locmin f.
¡ По формуле Тейлора
f(ˆx +h) = f(ˆx)+ f (ˆx), h + 1
2 f (ˆx)[h, h]+r(h), r(h) = o( h 2
).
Необходимость. Пусть ˆx ∈ locmin f. Тогда по аналогу
т. Ферма f (ˆx) = 0, следовательно, по формуле Тейлора
f(ˆx + λh) − f(ˆx) = λ2
2 f (ˆx)[h, h] + r(λh), r(λh) = o(|λ|2
)
при малых λ и фиксированном h. Поскольку ˆx ∈ locmin f, то
f(ˆx + λh) − f(ˆx) ≥ 0. Поэтому λ2
2 f (ˆx)[h, h] + r(λh) ≥ 0.
Разделим обе части последнего неравенства на λ2 и
устремим λ к нулю. Поскольку r(λh)
λ2 → 0, то f (ˆx)[h, h] ≥ 0.
Галеев Э. М. МГУ
Лекции: Методы оптимизации
Теорема (необходимые и достаточные условия II порядка)
Необходимые условия экстремума: если ˆx ∈ locmin f и
f ∈ D2(ˆx), то f (ˆx) = 0, f (ˆx)h, h ≥ 0 ∀ h ∈ X.
Достаточные условия экстремума: если f (ˆx) = 0,
∃ α > 0 : f (ˆx)h, h ≥ α h 2 ∀ h ∈ X, то ˆx ∈ locmin f.
¡ По формуле Тейлора
f(ˆx +h) = f(ˆx)+ f (ˆx), h + 1
2 f (ˆx)[h, h]+r(h), r(h) = o( h 2
).
Необходимость. Пусть ˆx ∈ locmin f. Тогда по аналогу
т. Ферма f (ˆx) = 0, следовательно, по формуле Тейлора
f(ˆx + λh) − f(ˆx) = λ2
2 f (ˆx)[h, h] + r(λh), r(λh) = o(|λ|2
)
при малых λ и фиксированном h. Поскольку ˆx ∈ locmin f, то
f(ˆx + λh) − f(ˆx) ≥ 0. Поэтому λ2
2 f (ˆx)[h, h] + r(λh) ≥ 0.
Разделим обе части последнего неравенства на λ2 и
устремим λ к нулю. Поскольку r(λh)
λ2 → 0, то f (ˆx)[h, h] ≥ 0.
Галеев Э. М. МГУ
Лекции: Методы оптимизации
Теорема (необходимые и достаточные условия II порядка)
Необходимые условия экстремума: если ˆx ∈ locmin f и
f ∈ D2(ˆx), то f (ˆx) = 0, f (ˆx)h, h ≥ 0 ∀ h ∈ X.
Достаточные условия экстремума: если f (ˆx) = 0,
∃ α > 0 : f (ˆx)h, h ≥ α h 2 ∀ h ∈ X, то ˆx ∈ locmin f.
¡ По формуле Тейлора
f(ˆx +h) = f(ˆx)+ f (ˆx), h + 1
2 f (ˆx)[h, h]+r(h), r(h) = o( h 2
).
Необходимость. Пусть ˆx ∈ locmin f. Тогда по аналогу
т. Ферма f (ˆx) = 0, следовательно, по формуле Тейлора
f(ˆx + λh) − f(ˆx) = λ2
2 f (ˆx)[h, h] + r(λh), r(λh) = o(|λ|2
)
при малых λ и фиксированном h. Поскольку ˆx ∈ locmin f, то
f(ˆx + λh) − f(ˆx) ≥ 0. Поэтому λ2
2 f (ˆx)[h, h] + r(λh) ≥ 0.
Разделим обе части последнего неравенства на λ2 и
устремим λ к нулю. Поскольку r(λh)
λ2 → 0, то f (ˆx)[h, h] ≥ 0.
Галеев Э. М. МГУ
Лекции: Методы оптимизации
Теорема (необходимые и достаточные условия II порядка)
Необходимые условия экстремума: если ˆx ∈ locmin f и
f ∈ D2(ˆx), то f (ˆx) = 0, f (ˆx)h, h ≥ 0 ∀ h ∈ X.
Достаточные условия экстремума: если f (ˆx) = 0,
∃ α > 0 : f (ˆx)h, h ≥ α h 2 ∀ h ∈ X, то ˆx ∈ locmin f.
¡ По формуле Тейлора
f(ˆx +h) = f(ˆx)+ f (ˆx), h + 1
2 f (ˆx)[h, h]+r(h), r(h) = o( h 2
).
Необходимость. Пусть ˆx ∈ locmin f. Тогда по аналогу
т. Ферма f (ˆx) = 0, следовательно, по формуле Тейлора
f(ˆx + λh) − f(ˆx) = λ2
2 f (ˆx)[h, h] + r(λh), r(λh) = o(|λ|2
)
при малых λ и фиксированном h. Поскольку ˆx ∈ locmin f, то
f(ˆx + λh) − f(ˆx) ≥ 0. Поэтому λ2
2 f (ˆx)[h, h] + r(λh) ≥ 0.
Разделим обе части последнего неравенства на λ2 и
устремим λ к нулю. Поскольку r(λh)
λ2 → 0, то f (ˆx)[h, h] ≥ 0.
Галеев Э. М. МГУ
Лекции: Методы оптимизации
Теорема (необходимые и достаточные условия II порядка)
Необходимые условия экстремума: если ˆx ∈ locmin f и
f ∈ D2(ˆx), то f (ˆx) = 0, f (ˆx)h, h ≥ 0 ∀ h ∈ X.
Достаточные условия экстремума: если f (ˆx) = 0,
∃ α > 0 : f (ˆx)h, h ≥ α h 2 ∀ h ∈ X, то ˆx ∈ locmin f.
¡ По формуле Тейлора
f(ˆx +h) = f(ˆx)+ f (ˆx), h + 1
2 f (ˆx)[h, h]+r(h), r(h) = o( h 2
).
Необходимость. Пусть ˆx ∈ locmin f. Тогда по аналогу
т. Ферма f (ˆx) = 0, следовательно, по формуле Тейлора
f(ˆx + λh) − f(ˆx) = λ2
2 f (ˆx)[h, h] + r(λh), r(λh) = o(|λ|2
)
при малых λ и фиксированном h. Поскольку ˆx ∈ locmin f, то
f(ˆx + λh) − f(ˆx) ≥ 0. Поэтому λ2
2 f (ˆx)[h, h] + r(λh) ≥ 0.
Разделим обе части последнего неравенства на λ2 и
устремим λ к нулю. Поскольку r(λh)
λ2 → 0, то f (ˆx)[h, h] ≥ 0.
Галеев Э. М. МГУ
Лекции: Методы оптимизации
Теорема (необходимые и достаточные условия II порядка)
Необходимые условия экстремума: если ˆx ∈ locmin f и
f ∈ D2(ˆx), то f (ˆx) = 0, f (ˆx)h, h ≥ 0 ∀ h ∈ X.
Достаточные условия экстремума: если f (ˆx) = 0,
∃ α > 0 : f (ˆx)h, h ≥ α h 2 ∀ h ∈ X, то ˆx ∈ locmin f.
¡ По формуле Тейлора
f(ˆx +h) = f(ˆx)+ f (ˆx), h + 1
2 f (ˆx)[h, h]+r(h), r(h) = o( h 2
).
Необходимость. Пусть ˆx ∈ locmin f. Тогда по аналогу
т. Ферма f (ˆx) = 0, следовательно, по формуле Тейлора
f(ˆx + λh) − f(ˆx) = λ2
2 f (ˆx)[h, h] + r(λh), r(λh) = o(|λ|2
)
при малых λ и фиксированном h. Поскольку ˆx ∈ locmin f, то
f(ˆx + λh) − f(ˆx) ≥ 0. Поэтому λ2
2 f (ˆx)[h, h] + r(λh) ≥ 0.
Разделим обе части последнего неравенства на λ2 и
устремим λ к нулю. Поскольку r(λh)
λ2 → 0, то f (ˆx)[h, h] ≥ 0.
Галеев Э. М. МГУ
Лекции: Методы оптимизации
Теорема (необходимые и достаточные условия II порядка)
Необходимые условия экстремума: если ˆx ∈ locmin f и
f ∈ D2(ˆx), то f (ˆx) = 0, f (ˆx)h, h ≥ 0 ∀ h ∈ X.
Достаточные условия экстремума: если f (ˆx) = 0,
∃ α > 0 : f (ˆx)h, h ≥ α h 2 ∀ h ∈ X, то ˆx ∈ locmin f.
¡ По формуле Тейлора
f(ˆx +h) = f(ˆx)+ f (ˆx), h + 1
2 f (ˆx)[h, h]+r(h), r(h) = o( h 2
).
Необходимость. Пусть ˆx ∈ locmin f. Тогда по аналогу
т. Ферма f (ˆx) = 0, следовательно, по формуле Тейлора
f(ˆx + λh) − f(ˆx) = λ2
2 f (ˆx)[h, h] + r(λh), r(λh) = o(|λ|2
)
при малых λ и фиксированном h. Поскольку ˆx ∈ locmin f, то
f(ˆx + λh) − f(ˆx) ≥ 0. Поэтому λ2
2 f (ˆx)[h, h] + r(λh) ≥ 0.
Разделим обе части последнего неравенства на λ2 и
устремим λ к нулю. Поскольку r(λh)
λ2 → 0, то f (ˆx)[h, h] ≥ 0.
Галеев Э. М. МГУ
Лекции: Методы оптимизации
Теорема (необходимые и достаточные условия II порядка)
Необходимые условия экстремума: если ˆx ∈ locmin f и
f ∈ D2(ˆx), то f (ˆx) = 0, f (ˆx)h, h ≥ 0 ∀ h ∈ X.
Достаточные условия экстремума: если f (ˆx) = 0,
∃ α > 0 : f (ˆx)h, h ≥ α h 2 ∀ h ∈ X, то ˆx ∈ locmin f.
¡ По формуле Тейлора
f(ˆx +h) = f(ˆx)+ f (ˆx), h + 1
2 f (ˆx)[h, h]+r(h), r(h) = o( h 2
).
Необходимость. Пусть ˆx ∈ locmin f. Тогда по аналогу
т. Ферма f (ˆx) = 0, следовательно, по формуле Тейлора
f(ˆx + λh) − f(ˆx) = λ2
2 f (ˆx)[h, h] + r(λh), r(λh) = o(|λ|2
)
при малых λ и фиксированном h. Поскольку ˆx ∈ locmin f, то
f(ˆx + λh) − f(ˆx) ≥ 0. Поэтому λ2
2 f (ˆx)[h, h] + r(λh) ≥ 0.
Разделим обе части последнего неравенства на λ2 и
устремим λ к нулю. Поскольку r(λh)
λ2 → 0, то f (ˆx)[h, h] ≥ 0.
Галеев Э. М. МГУ
Лекции: Методы оптимизации
Теорема (необходимые и достаточные условия II порядка)
Необходимые условия экстремума: если ˆx ∈ locmin f и
f ∈ D2(ˆx), то f (ˆx) = 0, f (ˆx)h, h ≥ 0 ∀ h ∈ X.
Достаточные условия экстремума: если f (ˆx) = 0,
∃ α > 0 : f (ˆx)h, h ≥ α h 2 ∀ h ∈ X, то ˆx ∈ locmin f.
¡ По формуле Тейлора
f(ˆx +h) = f(ˆx)+ f (ˆx), h + 1
2 f (ˆx)[h, h]+r(h), r(h) = o( h 2
).
Необходимость. Пусть ˆx ∈ locmin f. Тогда по аналогу
т. Ферма f (ˆx) = 0, следовательно, по формуле Тейлора
f(ˆx + λh) − f(ˆx) = λ2
2 f (ˆx)[h, h] + r(λh), r(λh) = o(|λ|2
)
при малых λ и фиксированном h. Поскольку ˆx ∈ locmin f, то
f(ˆx + λh) − f(ˆx) ≥ 0. Поэтому λ2
2 f (ˆx)[h, h] + r(λh) ≥ 0.
Разделим обе части последнего неравенства на λ2 и
устремим λ к нулю. Поскольку r(λh)
λ2 → 0, то f (ˆx)[h, h] ≥ 0.
Галеев Э. М. МГУ
Лекции: Методы оптимизации
Теорема (необходимые и достаточные условия II порядка)
Необходимые условия экстремума: если ˆx ∈ locmin f и
f ∈ D2(ˆx), то f (ˆx) = 0, f (ˆx)h, h ≥ 0 ∀ h ∈ X.
Достаточные условия экстремума: если f (ˆx) = 0,
∃ α > 0 : f (ˆx)h, h ≥ α h 2 ∀ h ∈ X, то ˆx ∈ locmin f.
¡ По формуле Тейлора
f(ˆx +h) = f(ˆx)+ f (ˆx), h + 1
2 f (ˆx)[h, h]+r(h), r(h) = o( h 2
).
Необходимость. Пусть ˆx ∈ locmin f. Тогда по аналогу
т. Ферма f (ˆx) = 0, следовательно, по формуле Тейлора
f(ˆx + λh) − f(ˆx) = λ2
2 f (ˆx)[h, h] + r(λh), r(λh) = o(|λ|2
)
при малых λ и фиксированном h. Поскольку ˆx ∈ locmin f, то
f(ˆx + λh) − f(ˆx) ≥ 0. Поэтому λ2
2 f (ˆx)[h, h] + r(λh) ≥ 0.
Разделим обе части последнего неравенства на λ2 и
устремим λ к нулю. Поскольку r(λh)
λ2 → 0, то f (ˆx)[h, h] ≥ 0.
Галеев Э. М. МГУ
Лекции: Методы оптимизации
Теорема (необходимые и достаточные условия II порядка)
Необходимые условия экстремума: если ˆx ∈ locmin f и
f ∈ D2(ˆx), то f (ˆx) = 0, f (ˆx)h, h ≥ 0 ∀ h ∈ X.
Достаточные условия экстремума: если f (ˆx) = 0,
∃ α > 0 : f (ˆx)h, h ≥ α h 2 ∀ h ∈ X, то ˆx ∈ locmin f.
¡ По формуле Тейлора
f(ˆx +h) = f(ˆx)+ f (ˆx), h + 1
2 f (ˆx)[h, h]+r(h), r(h) = o( h 2
).
Необходимость. Пусть ˆx ∈ locmin f. Тогда по аналогу
т. Ферма f (ˆx) = 0, следовательно, по формуле Тейлора
f(ˆx + λh) − f(ˆx) = λ2
2 f (ˆx)[h, h] + r(λh), r(λh) = o(|λ|2
)
при малых λ и фиксированном h. Поскольку ˆx ∈ locmin f, то
f(ˆx + λh) − f(ˆx) ≥ 0. Поэтому λ2
2 f (ˆx)[h, h] + r(λh) ≥ 0.
Разделим обе части последнего неравенства на λ2 и
устремим λ к нулю. Поскольку r(λh)
λ2 → 0, то f (ˆx)[h, h] ≥ 0.
Галеев Э. М. МГУ
Лекции: Методы оптимизации
Теорема (необходимые и достаточные условия II порядка)
Необходимые условия экстремума: если ˆx ∈ locmin f и
f ∈ D2(ˆx), то f (ˆx) = 0, f (ˆx)h, h ≥ 0 ∀ h ∈ X.
Достаточные условия экстремума: если f (ˆx) = 0,
∃ α > 0 : f (ˆx)h, h ≥ α h 2 ∀ h ∈ X, то ˆx ∈ locmin f.
Достаточность. Так как f (ˆx) = 0, то по формуле Тейлора
f(ˆx+h)−f(ˆx)=
1
2
f (ˆx)[h, h]+r(h)
f (ˆx)h,h ≥α h 2
≥ α
2 ||h||2
+r(h)≥0
при достаточно малых h, так как r(h) = o( h 2).
Следовательно, ˆx ∈ locmin f. £
Галеев Э. М. МГУ
Лекции: Методы оптимизации
Теорема (необходимые и достаточные условия II порядка)
Необходимые условия экстремума: если ˆx ∈ locmin f и
f ∈ D2(ˆx), то f (ˆx) = 0, f (ˆx)h, h ≥ 0 ∀ h ∈ X.
Достаточные условия экстремума: если f (ˆx) = 0,
∃ α > 0 : f (ˆx)h, h ≥ α h 2 ∀ h ∈ X, то ˆx ∈ locmin f.
Достаточность. Так как f (ˆx) = 0, то по формуле Тейлора
f(ˆx+h)−f(ˆx)=
1
2
f (ˆx)[h, h]+r(h)
f (ˆx)h,h ≥α h 2
≥ α
2 ||h||2
+r(h)≥0
при достаточно малых h, так как r(h) = o( h 2).
Следовательно, ˆx ∈ locmin f. £
Галеев Э. М. МГУ
Лекции: Методы оптимизации
Теорема (необходимые и достаточные условия II порядка)
Необходимые условия экстремума: если ˆx ∈ locmin f и
f ∈ D2(ˆx), то f (ˆx) = 0, f (ˆx)h, h ≥ 0 ∀ h ∈ X.
Достаточные условия экстремума: если f (ˆx) = 0,
∃ α > 0 : f (ˆx)h, h ≥ α h 2 ∀ h ∈ X, то ˆx ∈ locmin f.
Достаточность. Так как f (ˆx) = 0, то по формуле Тейлора
f(ˆx+h)−f(ˆx)=
1
2
f (ˆx)[h, h]+r(h)
f (ˆx)h,h ≥α h 2
≥ α
2 ||h||2
+r(h)≥0
при достаточно малых h, так как r(h) = o( h 2).
Следовательно, ˆx ∈ locmin f. £
Галеев Э. М. МГУ
Лекции: Методы оптимизации
Теорема (необходимые и достаточные условия II порядка)
Необходимые условия экстремума: если ˆx ∈ locmin f и
f ∈ D2(ˆx), то f (ˆx) = 0, f (ˆx)h, h ≥ 0 ∀ h ∈ X.
Достаточные условия экстремума: если f (ˆx) = 0,
∃ α > 0 : f (ˆx)h, h ≥ α h 2 ∀ h ∈ X, то ˆx ∈ locmin f.
Достаточность. Так как f (ˆx) = 0, то по формуле Тейлора
f(ˆx+h)−f(ˆx)=
1
2
f (ˆx)[h, h]+r(h)
f (ˆx)h,h ≥α h 2
≥ α
2 ||h||2
+r(h)≥0
при достаточно малых h, так как r(h) = o( h 2).
Следовательно, ˆx ∈ locmin f. £
Галеев Э. М. МГУ
Лекции: Методы оптимизации
Теорема (необходимые и достаточные условия II порядка)
Необходимые условия экстремума: если ˆx ∈ locmin f и
f ∈ D2(ˆx), то f (ˆx) = 0, f (ˆx)h, h ≥ 0 ∀ h ∈ X.
Достаточные условия экстремума: если f (ˆx) = 0,
∃ α > 0 : f (ˆx)h, h ≥ α h 2 ∀ h ∈ X, то ˆx ∈ locmin f.
Достаточность. Так как f (ˆx) = 0, то по формуле Тейлора
f(ˆx+h)−f(ˆx)=
1
2
f (ˆx)[h, h]+r(h)
f (ˆx)h,h ≥α h 2
≥ α
2 ||h||2
+r(h)≥0
при достаточно малых h, так как r(h) = o( h 2).
Следовательно, ˆx ∈ locmin f. £
Галеев Э. М. МГУ
Лекции: Методы оптимизации
Теорема (необходимые и достаточные условия II порядка)
Необходимые условия экстремума: если ˆx ∈ locmin f и
f ∈ D2(ˆx), то f (ˆx) = 0, f (ˆx)h, h ≥ 0 ∀ h ∈ X.
Достаточные условия экстремума: если f (ˆx) = 0,
∃ α > 0 : f (ˆx)h, h ≥ α h 2 ∀ h ∈ X, то ˆx ∈ locmin f.
Достаточность. Так как f (ˆx) = 0, то по формуле Тейлора
f(ˆx+h)−f(ˆx)=
1
2
f (ˆx)[h, h]+r(h)
f (ˆx)h,h ≥α h 2
≥ α
2 ||h||2
+r(h)≥0
при достаточно малых h, так как r(h) = o( h 2).
Следовательно, ˆx ∈ locmin f. £
Галеев Э. М. МГУ
Лекции: Методы оптимизации
Теорема (необходимые и достаточные условия II порядка)
Необходимые условия экстремума: если ˆx ∈ locmin f и
f ∈ D2(ˆx), то f (ˆx) = 0, f (ˆx)h, h ≥ 0 ∀ h ∈ X.
Достаточные условия экстремума: если f (ˆx) = 0,
∃ α > 0 : f (ˆx)h, h ≥ α h 2 ∀ h ∈ X, то ˆx ∈ locmin f.
Достаточность. Так как f (ˆx) = 0, то по формуле Тейлора
f(ˆx+h)−f(ˆx)=
1
2
f (ˆx)[h, h]+r(h)
f (ˆx)h,h ≥α h 2
≥ α
2 ||h||2
+r(h)≥0
при достаточно малых h, так как r(h) = o( h 2).
Следовательно, ˆx ∈ locmin f. £
Галеев Э. М. МГУ
Лекции: Методы оптимизации
Теорема (необходимые и достаточные условия II порядка)
Необходимые условия экстремума: если ˆx ∈ locmin f и
f ∈ D2(ˆx), то f (ˆx) = 0, f (ˆx)h, h ≥ 0 ∀ h ∈ X.
Достаточные условия экстремума: если f (ˆx) = 0,
∃ α > 0 : f (ˆx)h, h ≥ α h 2 ∀ h ∈ X, то ˆx ∈ locmin f.
Достаточность. Так как f (ˆx) = 0, то по формуле Тейлора
f(ˆx+h)−f(ˆx)=
1
2
f (ˆx)[h, h]+r(h)
f (ˆx)h,h ≥α h 2
≥ α
2 ||h||2
+r(h)≥0
при достаточно малых h, так как r(h) = o( h 2).
Следовательно, ˆx ∈ locmin f. £
Галеев Э. М. МГУ
Лекции: Методы оптимизации
Пример 1. В бесконечномерных пространствах условие
положительной определенности отображения не гарантирует
строгой положительности отображения
f : l2 → R, x = (x1, ..., xn, ...), x l2
=
+∞
1
x2
n
1
2
, f(x)=
∞
n=1
x2
n
n
.
f (x)[h] = 2
∞
n=1
xnhn
n
; f (0)[h, h] = 2
∞
n=1
h2
n
n
>0 ∀ h = 0 ⇒ f >0
(положительно определена). Но вместе с тем f не является
строго положительной. Действительно, неравенство
f (0)[h, h] ≥ α h 2 ∀ h не может выполняться ни для какой
константы α > 0, поскольку на {hn} = en, n = 1, 2, . . .
(en — n-й базисный вектор пространства l2),
f (0)[hn, hn] =
2
n
=
2
n
hn
2 ≥ α hn
2.
Галеев Э. М. МГУ
Лекции: Методы оптимизации
Пример 1. В бесконечномерных пространствах условие
положительной определенности отображения не гарантирует
строгой положительности отображения
f : l2 → R, x = (x1, ..., xn, ...), x l2
=
+∞
1
x2
n
1
2
, f(x)=
∞
n=1
x2
n
n
.
f (x)[h] = 2
∞
n=1
xnhn
n
; f (0)[h, h] = 2
∞
n=1
h2
n
n
>0 ∀ h = 0 ⇒ f >0
(положительно определена). Но вместе с тем f не является
строго положительной. Действительно, неравенство
f (0)[h, h] ≥ α h 2 ∀ h не может выполняться ни для какой
константы α > 0, поскольку на {hn} = en, n = 1, 2, . . .
(en — n-й базисный вектор пространства l2),
f (0)[hn, hn] =
2
n
=
2
n
hn
2 ≥ α hn
2.
Галеев Э. М. МГУ
Лекции: Методы оптимизации
Пример 1. В бесконечномерных пространствах условие
положительной определенности отображения не гарантирует
строгой положительности отображения
f : l2 → R, x = (x1, ..., xn, ...), x l2
=
+∞
1
x2
n
1
2
, f(x)=
∞
n=1
x2
n
n
.
f (x)[h] = 2
∞
n=1
xnhn
n
; f (0)[h, h] = 2
∞
n=1
h2
n
n
>0 ∀ h = 0 ⇒ f >0
(положительно определена). Но вместе с тем f не является
строго положительной. Действительно, неравенство
f (0)[h, h] ≥ α h 2 ∀ h не может выполняться ни для какой
константы α > 0, поскольку на {hn} = en, n = 1, 2, . . .
(en — n-й базисный вектор пространства l2),
f (0)[hn, hn] =
2
n
=
2
n
hn
2 ≥ α hn
2.
Галеев Э. М. МГУ
Лекции: Методы оптимизации
Пример 1. В бесконечномерных пространствах условие
положительной определенности отображения не гарантирует
строгой положительности отображения
f : l2 → R, x = (x1, ..., xn, ...), x l2
=
+∞
1
x2
n
1
2
, f(x)=
∞
n=1
x2
n
n
.
f (x)[h] = 2
∞
n=1
xnhn
n
; f (0)[h, h] = 2
∞
n=1
h2
n
n
>0 ∀ h = 0 ⇒ f >0
(положительно определена). Но вместе с тем f не является
строго положительной. Действительно, неравенство
f (0)[h, h] ≥ α h 2 ∀ h не может выполняться ни для какой
константы α > 0, поскольку на {hn} = en, n = 1, 2, . . .
(en — n-й базисный вектор пространства l2),
f (0)[hn, hn] =
2
n
=
2
n
hn
2 ≥ α hn
2.
Галеев Э. М. МГУ
Лекции: Методы оптимизации
Пример 1. В бесконечномерных пространствах условие
положительной определенности отображения не гарантирует
строгой положительности отображения
f : l2 → R, x = (x1, ..., xn, ...), x l2
=
+∞
1
x2
n
1
2
, f(x)=
∞
n=1
x2
n
n
.
f (x)[h] = 2
∞
n=1
xnhn
n
; f (0)[h, h] = 2
∞
n=1
h2
n
n
>0 ∀ h = 0 ⇒ f >0
(положительно определена). Но вместе с тем f не является
строго положительной. Действительно, неравенство
f (0)[h, h] ≥ α h 2 ∀ h не может выполняться ни для какой
константы α > 0, поскольку на {hn} = en, n = 1, 2, . . .
(en — n-й базисный вектор пространства l2),
f (0)[hn, hn] =
2
n
=
2
n
hn
2 ≥ α hn
2.
Галеев Э. М. МГУ
Лекции: Методы оптимизации
Пример 1. В бесконечномерных пространствах условие
положительной определенности отображения не гарантирует
строгой положительности отображения
f : l2 → R, x = (x1, ..., xn, ...), x l2
=
+∞
1
x2
n
1
2
, f(x)=
∞
n=1
x2
n
n
.
f (x)[h] = 2
∞
n=1
xnhn
n
; f (0)[h, h] = 2
∞
n=1
h2
n
n
>0 ∀ h = 0 ⇒ f >0
(положительно определена). Но вместе с тем f не является
строго положительной. Действительно, неравенство
f (0)[h, h] ≥ α h 2 ∀ h не может выполняться ни для какой
константы α > 0, поскольку на {hn} = en, n = 1, 2, . . .
(en — n-й базисный вектор пространства l2),
f (0)[hn, hn] =
2
n
=
2
n
hn
2 ≥ α hn
2.
Галеев Э. М. МГУ
Лекции: Методы оптимизации
Пример 1. В бесконечномерных пространствах условие
положительной определенности отображения не гарантирует
строгой положительности отображения
f : l2 → R, x = (x1, ..., xn, ...), x l2
=
+∞
1
x2
n
1
2
, f(x)=
∞
n=1
x2
n
n
.
f (x)[h] = 2
∞
n=1
xnhn
n
; f (0)[h, h] = 2
∞
n=1
h2
n
n
>0 ∀ h = 0 ⇒ f >0
(положительно определена). Но вместе с тем f не является
строго положительной. Действительно, неравенство
f (0)[h, h] ≥ α h 2 ∀ h не может выполняться ни для какой
константы α > 0, поскольку на {hn} = en, n = 1, 2, . . .
(en — n-й базисный вектор пространства l2),
f (0)[hn, hn] =
2
n
=
2
n
hn
2 ≥ α hn
2.
Галеев Э. М. МГУ
Лекции: Методы оптимизации
Пример 1. В бесконечномерных пространствах условие
положительной определенности отображения не гарантирует
строгой положительности отображения
f : l2 → R, x = (x1, ..., xn, ...), x l2
=
+∞
1
x2
n
1
2
, f(x)=
∞
n=1
x2
n
n
.
f (x)[h] = 2
∞
n=1
xnhn
n
; f (0)[h, h] = 2
∞
n=1
h2
n
n
>0 ∀ h = 0 ⇒ f >0
(положительно определена). Но вместе с тем f не является
строго положительной. Действительно, неравенство
f (0)[h, h] ≥ α h 2 ∀ h не может выполняться ни для какой
константы α > 0, поскольку на {hn} = en, n = 1, 2, . . .
(en — n-й базисный вектор пространства l2),
f (0)[hn, hn] =
2
n
=
2
n
hn
2 ≥ α hn
2.
Галеев Э. М. МГУ
Лекции: Методы оптимизации
Пример 1. В бесконечномерных пространствах условие
положительной определенности отображения не гарантирует
строгой положительности отображения
f : l2 → R, x = (x1, ..., xn, ...), x l2
=
+∞
1
x2
n
1
2
, f(x)=
∞
n=1
x2
n
n
.
f (x)[h] = 2
∞
n=1
xnhn
n
; f (0)[h, h] = 2
∞
n=1
h2
n
n
>0 ∀ h = 0 ⇒ f >0
(положительно определена). Но вместе с тем f не является
строго положительной. Действительно, неравенство
f (0)[h, h] ≥ α h 2 ∀ h не может выполняться ни для какой
константы α > 0, поскольку на {hn} = en, n = 1, 2, . . .
(en — n-й базисный вектор пространства l2),
f (0)[hn, hn] =
2
n
=
2
n
hn
2 ≥ α hn
2.
Галеев Э. М. МГУ
Лекции: Методы оптимизации
Пример 1. В бесконечномерных пространствах условие
положительной определенности отображения не гарантирует
строгой положительности отображения
f : l2 → R, x = (x1, ..., xn, ...), x l2
=
+∞
1
x2
n
1
2
, f(x)=
∞
n=1
x2
n
n
.
f (x)[h] = 2
∞
n=1
xnhn
n
; f (0)[h, h] = 2
∞
n=1
h2
n
n
>0 ∀ h = 0 ⇒ f >0
(положительно определена). Но вместе с тем f не является
строго положительной. Действительно, неравенство
f (0)[h, h] ≥ α h 2 ∀ h не может выполняться ни для какой
константы α > 0, поскольку на {hn} = en, n = 1, 2, . . .
(en — n-й базисный вектор пространства l2),
f (0)[hn, hn] =
2
n
=
2
n
hn
2 ≥ α hn
2.
Галеев Э. М. МГУ
Лекции: Методы оптимизации
Пример 1. В бесконечномерных пространствах условие
положительной определенности отображения не гарантирует
строгой положительности отображения
f : l2 → R, x = (x1, ..., xn, ...), x l2
=
+∞
1
x2
n
1
2
, f(x)=
∞
n=1
x2
n
n
.
f (x)[h] = 2
∞
n=1
xnhn
n
; f (0)[h, h] = 2
∞
n=1
h2
n
n
>0 ∀ h = 0 ⇒ f >0
(положительно определена). Но вместе с тем f не является
строго положительной. Действительно, неравенство
f (0)[h, h] ≥ α h 2 ∀ h не может выполняться ни для какой
константы α > 0, поскольку на {hn} = en, n = 1, 2, . . .
(en — n-й базисный вектор пространства l2),
f (0)[hn, hn] =
2
n
=
2
n
hn
2 ≥ α hn
2.
Галеев Э. М. МГУ
Лекции: Методы оптимизации
Пример 1. В бесконечномерных пространствах условие
положительной определенности отображения не гарантирует
строгой положительности отображения
f : l2 → R, x = (x1, ..., xn, ...), x l2
=
+∞
1
x2
n
1
2
, f(x)=
∞
n=1
x2
n
n
.
f (x)[h] = 2
∞
n=1
xnhn
n
; f (0)[h, h] = 2
∞
n=1
h2
n
n
>0 ∀ h = 0 ⇒ f >0
(положительно определена). Но вместе с тем f не является
строго положительной. Действительно, неравенство
f (0)[h, h] ≥ α h 2 ∀ h не может выполняться ни для какой
константы α > 0, поскольку на {hn} = en, n = 1, 2, . . .
(en — n-й базисный вектор пространства l2),
f (0)[hn, hn] =
2
n
=
2
n
hn
2 ≥ α hn
2.
Галеев Э. М. МГУ
Лекции: Методы оптимизации
Пример 1. В бесконечномерных пространствах условие
положительной определенности отображения не гарантирует
строгой положительности отображения
f : l2 → R, x = (x1, ..., xn, ...), x l2
=
+∞
1
x2
n
1
2
, f(x)=
∞
n=1
x2
n
n
.
f (x)[h] = 2
∞
n=1
xnhn
n
; f (0)[h, h] = 2
∞
n=1
h2
n
n
>0 ∀ h = 0 ⇒ f >0
(положительно определена). Но вместе с тем f не является
строго положительной. Действительно, неравенство
f (0)[h, h] ≥ α h 2 ∀ h не может выполняться ни для какой
константы α > 0, поскольку на {hn} = en, n = 1, 2, . . .
(en — n-й базисный вектор пространства l2),
f (0)[hn, hn] =
2
n
=
2
n
hn
2 ≥ α hn
2.
Галеев Э. М. МГУ
Лекции: Методы оптимизации
Пример 1. В бесконечномерных пространствах условие
положительной определенности отображения не гарантирует
строгой положительности отображения
f : l2 → R, x = (x1, ..., xn, ...), x l2
=
+∞
1
x2
n
1
2
, f(x)=
∞
n=1
x2
n
n
.
f (x)[h] = 2
∞
n=1
xnhn
n
; f (0)[h, h] = 2
∞
n=1
h2
n
n
>0 ∀ h = 0 ⇒ f >0
(положительно определена). Но вместе с тем f не является
строго положительной. Действительно, неравенство
f (0)[h, h] ≥ α h 2 ∀ h не может выполняться ни для какой
константы α > 0, поскольку на {hn} = en, n = 1, 2, . . .
(en — n-й базисный вектор пространства l2),
f (0)[hn, hn] =
2
n
=
2
n
hn
2 ≥ α hn
2.
Галеев Э. М. МГУ
Лекции: Методы оптимизации
Пример 1. В бесконечномерных пространствах условие
положительной определенности отображения не гарантирует
строгой положительности отображения
f : l2 → R, x = (x1, ..., xn, ...), x l2
=
+∞
1
x2
n
1
2
, f(x)=
∞
n=1
x2
n
n
.
f (x)[h] = 2
∞
n=1
xnhn
n
; f (0)[h, h] = 2
∞
n=1
h2
n
n
>0 ∀ h = 0 ⇒ f >0
(положительно определена). Но вместе с тем f не является
строго положительной. Действительно, неравенство
f (0)[h, h] ≥ α h 2 ∀ h не может выполняться ни для какой
константы α > 0, поскольку на {hn} = en, n = 1, 2, . . .
(en — n-й базисный вектор пространства l2),
f (0)[hn, hn] =
2
n
=
2
n
hn
2 ≥ α hn
2.
Галеев Э. М. МГУ
Лекции: Методы оптимизации
Пример 1. В бесконечномерных пространствах условие
положительной определенности отображения не гарантирует
строгой положительности отображения
f : l2 → R, x = (x1, ..., xn, ...), x l2
=
+∞
1
x2
n
1
2
, f(x)=
∞
n=1
x2
n
n
.
f (x)[h] = 2
∞
n=1
xnhn
n
; f (0)[h, h] = 2
∞
n=1
h2
n
n
>0 ∀ h = 0 ⇒ f >0
(положительно определена). Но вместе с тем f не является
строго положительной. Действительно, неравенство
f (0)[h, h] ≥ α h 2 ∀ h не может выполняться ни для какой
константы α > 0, поскольку на {hn} = en, n = 1, 2, . . .
(en — n-й базисный вектор пространства l2),
f (0)[hn, hn] =
2
n
=
2
n
hn
2 ≥ α hn
2.
Галеев Э. М. МГУ
Лекции: Методы оптимизации
Пример 1. В бесконечномерных пространствах условие
положительной определенности отображения не гарантирует
строгой положительности отображения
f : l2 → R, x = (x1, ..., xn, ...), x l2
=
+∞
1
x2
n
1
2
, f(x)=
∞
n=1
x2
n
n
.
f (x)[h] = 2
∞
n=1
xnhn
n
; f (0)[h, h] = 2
∞
n=1
h2
n
n
>0 ∀ h = 0 ⇒ f >0
(положительно определена). Но вместе с тем f не является
строго положительной. Действительно, неравенство
f (0)[h, h] ≥ α h 2 ∀ h не может выполняться ни для какой
константы α > 0, поскольку на {hn} = en, n = 1, 2, . . .
(en — n-й базисный вектор пространства l2),
f (0)[hn, hn] =
2
n
=
2
n
hn
2 ≥ α hn
2.
Галеев Э. М. МГУ
Лекции: Методы оптимизации
Пример 2. В бесконечномерных пространствах условие f (ˆx) = 0
и f (ˆx)[h, h] > 0 ∀ h = 0 не гарантируют локального минимума
отображения.
f : l2 → R, f(x) =
∞
n=1
x2
n
n3
− x4
n → min .
f (ˆx)[h] =
∞
n=1
2ˆxnhn
n3
− 4ˆx3
n hn
⇒ f (0) = 0 ⇒ ˆx = 0 — стационарная точка.
f (ˆx)[h, h] =
∞
n=1
2h2
n
n3
− 12ˆx2
n h2
n ⇒ f (0)[h, h] = 2
∞
n=1
h2
n
n3
> 0
∀ h = 0 ⇒ f (0) положительно определенный оператор, но не
строго положительный. На последовательности xn = en
n
(xn → ˆx = 0 при n → +∞), f(xn) =
1
n5
−
1
n4
< 0 = f(0)
⇒ ˆx = 0 ∈ locmin f.
Галеев Э. М. МГУ
Лекции: Методы оптимизации
Пример 2. В бесконечномерных пространствах условие f (ˆx) = 0
и f (ˆx)[h, h] > 0 ∀ h = 0 не гарантируют локального минимума
отображения.
f : l2 → R, f(x) =
∞
n=1
x2
n
n3
− x4
n → min .
f (ˆx)[h] =
∞
n=1
2ˆxnhn
n3
− 4ˆx3
n hn
⇒ f (0) = 0 ⇒ ˆx = 0 — стационарная точка.
f (ˆx)[h, h] =
∞
n=1
2h2
n
n3
− 12ˆx2
n h2
n ⇒ f (0)[h, h] = 2
∞
n=1
h2
n
n3
> 0
∀ h = 0 ⇒ f (0) положительно определенный оператор, но не
строго положительный. На последовательности xn = en
n
(xn → ˆx = 0 при n → +∞), f(xn) =
1
n5
−
1
n4
< 0 = f(0)
⇒ ˆx = 0 ∈ locmin f.
Галеев Э. М. МГУ
Лекции: Методы оптимизации
Пример 2. В бесконечномерных пространствах условие f (ˆx) = 0
и f (ˆx)[h, h] > 0 ∀ h = 0 не гарантируют локального минимума
отображения.
f : l2 → R, f(x) =
∞
n=1
x2
n
n3
− x4
n → min .
f (ˆx)[h] =
∞
n=1
2ˆxnhn
n3
− 4ˆx3
n hn
⇒ f (0) = 0 ⇒ ˆx = 0 — стационарная точка.
f (ˆx)[h, h] =
∞
n=1
2h2
n
n3
− 12ˆx2
n h2
n ⇒ f (0)[h, h] = 2
∞
n=1
h2
n
n3
> 0
∀ h = 0 ⇒ f (0) положительно определенный оператор, но не
строго положительный. На последовательности xn = en
n
(xn → ˆx = 0 при n → +∞), f(xn) =
1
n5
−
1
n4
< 0 = f(0)
⇒ ˆx = 0 ∈ locmin f.
Галеев Э. М. МГУ
Лекции: Методы оптимизации
Пример 2. В бесконечномерных пространствах условие f (ˆx) = 0
и f (ˆx)[h, h] > 0 ∀ h = 0 не гарантируют локального минимума
отображения.
f : l2 → R, f(x) =
∞
n=1
x2
n
n3
− x4
n → min .
f (ˆx)[h] =
∞
n=1
2ˆxnhn
n3
− 4ˆx3
n hn
⇒ f (0) = 0 ⇒ ˆx = 0 — стационарная точка.
f (ˆx)[h, h] =
∞
n=1
2h2
n
n3
− 12ˆx2
n h2
n ⇒ f (0)[h, h] = 2
∞
n=1
h2
n
n3
> 0
∀ h = 0 ⇒ f (0) положительно определенный оператор, но не
строго положительный. На последовательности xn = en
n
(xn → ˆx = 0 при n → +∞), f(xn) =
1
n5
−
1
n4
< 0 = f(0)
⇒ ˆx = 0 ∈ locmin f.
Галеев Э. М. МГУ
Лекции: Методы оптимизации
Пример 2. В бесконечномерных пространствах условие f (ˆx) = 0
и f (ˆx)[h, h] > 0 ∀ h = 0 не гарантируют локального минимума
отображения.
f : l2 → R, f(x) =
∞
n=1
x2
n
n3
− x4
n → min .
f (ˆx)[h] =
∞
n=1
2ˆxnhn
n3
− 4ˆx3
n hn
⇒ f (0) = 0 ⇒ ˆx = 0 — стационарная точка.
f (ˆx)[h, h] =
∞
n=1
2h2
n
n3
− 12ˆx2
n h2
n ⇒ f (0)[h, h] = 2
∞
n=1
h2
n
n3
> 0
∀ h = 0 ⇒ f (0) положительно определенный оператор, но не
строго положительный. На последовательности xn = en
n
(xn → ˆx = 0 при n → +∞), f(xn) =
1
n5
−
1
n4
< 0 = f(0)
⇒ ˆx = 0 ∈ locmin f.
Галеев Э. М. МГУ
Лекции: Методы оптимизации
Пример 2. В бесконечномерных пространствах условие f (ˆx) = 0
и f (ˆx)[h, h] > 0 ∀ h = 0 не гарантируют локального минимума
отображения.
f : l2 → R, f(x) =
∞
n=1
x2
n
n3
− x4
n → min .
f (ˆx)[h] =
∞
n=1
2ˆxnhn
n3
− 4ˆx3
n hn
⇒ f (0) = 0 ⇒ ˆx = 0 — стационарная точка.
f (ˆx)[h, h] =
∞
n=1
2h2
n
n3
− 12ˆx2
n h2
n ⇒ f (0)[h, h] = 2
∞
n=1
h2
n
n3
> 0
∀ h = 0 ⇒ f (0) положительно определенный оператор, но не
строго положительный. На последовательности xn = en
n
(xn → ˆx = 0 при n → +∞), f(xn) =
1
n5
−
1
n4
< 0 = f(0)
⇒ ˆx = 0 ∈ locmin f.
Галеев Э. М. МГУ
Лекции: Методы оптимизации
Пример 2. В бесконечномерных пространствах условие f (ˆx) = 0
и f (ˆx)[h, h] > 0 ∀ h = 0 не гарантируют локального минимума
отображения.
f : l2 → R, f(x) =
∞
n=1
x2
n
n3
− x4
n → min .
f (ˆx)[h] =
∞
n=1
2ˆxnhn
n3
− 4ˆx3
n hn
⇒ f (0) = 0 ⇒ ˆx = 0 — стационарная точка.
f (ˆx)[h, h] =
∞
n=1
2h2
n
n3
− 12ˆx2
n h2
n ⇒ f (0)[h, h] = 2
∞
n=1
h2
n
n3
> 0
∀ h = 0 ⇒ f (0) положительно определенный оператор, но не
строго положительный. На последовательности xn = en
n
(xn → ˆx = 0 при n → +∞), f(xn) =
1
n5
−
1
n4
< 0 = f(0)
⇒ ˆx = 0 ∈ locmin f.
Галеев Э. М. МГУ
Лекции: Методы оптимизации
Пример 2. В бесконечномерных пространствах условие f (ˆx) = 0
и f (ˆx)[h, h] > 0 ∀ h = 0 не гарантируют локального минимума
отображения.
f : l2 → R, f(x) =
∞
n=1
x2
n
n3
− x4
n → min .
f (ˆx)[h] =
∞
n=1
2ˆxnhn
n3
− 4ˆx3
n hn
⇒ f (0) = 0 ⇒ ˆx = 0 — стационарная точка.
f (ˆx)[h, h] =
∞
n=1
2h2
n
n3
− 12ˆx2
n h2
n ⇒ f (0)[h, h] = 2
∞
n=1
h2
n
n3
> 0
∀ h = 0 ⇒ f (0) положительно определенный оператор, но не
строго положительный. На последовательности xn = en
n
(xn → ˆx = 0 при n → +∞), f(xn) =
1
n5
−
1
n4
< 0 = f(0)
⇒ ˆx = 0 ∈ locmin f.
Галеев Э. М. МГУ
Лекции: Методы оптимизации
Пример 2. В бесконечномерных пространствах условие f (ˆx) = 0
и f (ˆx)[h, h] > 0 ∀ h = 0 не гарантируют локального минимума
отображения.
f : l2 → R, f(x) =
∞
n=1
x2
n
n3
− x4
n → min .
f (ˆx)[h] =
∞
n=1
2ˆxnhn
n3
− 4ˆx3
n hn
⇒ f (0) = 0 ⇒ ˆx = 0 — стационарная точка.
f (ˆx)[h, h] =
∞
n=1
2h2
n
n3
− 12ˆx2
n h2
n ⇒ f (0)[h, h] = 2
∞
n=1
h2
n
n3
> 0
∀ h = 0 ⇒ f (0) положительно определенный оператор, но не
строго положительный. На последовательности xn = en
n
(xn → ˆx = 0 при n → +∞), f(xn) =
1
n5
−
1
n4
< 0 = f(0)
⇒ ˆx = 0 ∈ locmin f.
Галеев Э. М. МГУ
Лекции: Методы оптимизации
Пример 2. В бесконечномерных пространствах условие f (ˆx) = 0
и f (ˆx)[h, h] > 0 ∀ h = 0 не гарантируют локального минимума
отображения.
f : l2 → R, f(x) =
∞
n=1
x2
n
n3
− x4
n → min .
f (ˆx)[h] =
∞
n=1
2ˆxnhn
n3
− 4ˆx3
n hn
⇒ f (0) = 0 ⇒ ˆx = 0 — стационарная точка.
f (ˆx)[h, h] =
∞
n=1
2h2
n
n3
− 12ˆx2
n h2
n ⇒ f (0)[h, h] = 2
∞
n=1
h2
n
n3
> 0
∀ h = 0 ⇒ f (0) положительно определенный оператор, но не
строго положительный. На последовательности xn = en
n
(xn → ˆx = 0 при n → +∞), f(xn) =
1
n5
−
1
n4
< 0 = f(0)
⇒ ˆx = 0 ∈ locmin f.
Галеев Э. М. МГУ
Лекции: Методы оптимизации
Пример 2. В бесконечномерных пространствах условие f (ˆx) = 0
и f (ˆx)[h, h] > 0 ∀ h = 0 не гарантируют локального минимума
отображения.
f : l2 → R, f(x) =
∞
n=1
x2
n
n3
− x4
n → min .
f (ˆx)[h] =
∞
n=1
2ˆxnhn
n3
− 4ˆx3
n hn
⇒ f (0) = 0 ⇒ ˆx = 0 — стационарная точка.
f (ˆx)[h, h] =
∞
n=1
2h2
n
n3
− 12ˆx2
n h2
n ⇒ f (0)[h, h] = 2
∞
n=1
h2
n
n3
> 0
∀ h = 0 ⇒ f (0) положительно определенный оператор, но не
строго положительный. На последовательности xn = en
n
(xn → ˆx = 0 при n → +∞), f(xn) =
1
n5
−
1
n4
< 0 = f(0)
⇒ ˆx = 0 ∈ locmin f.
Галеев Э. М. МГУ
Лекции: Методы оптимизации
Пример 2. В бесконечномерных пространствах условие f (ˆx) = 0
и f (ˆx)[h, h] > 0 ∀ h = 0 не гарантируют локального минимума
отображения.
f : l2 → R, f(x) =
∞
n=1
x2
n
n3
− x4
n → min .
f (ˆx)[h] =
∞
n=1
2ˆxnhn
n3
− 4ˆx3
n hn
⇒ f (0) = 0 ⇒ ˆx = 0 — стационарная точка.
f (ˆx)[h, h] =
∞
n=1
2h2
n
n3
− 12ˆx2
n h2
n ⇒ f (0)[h, h] = 2
∞
n=1
h2
n
n3
> 0
∀ h = 0 ⇒ f (0) положительно определенный оператор, но не
строго положительный. На последовательности xn = en
n
(xn → ˆx = 0 при n → +∞), f(xn) =
1
n5
−
1
n4
< 0 = f(0)
⇒ ˆx = 0 ∈ locmin f.
Галеев Э. М. МГУ
Лекции: Методы оптимизации
Пример 2. В бесконечномерных пространствах условие f (ˆx) = 0
и f (ˆx)[h, h] > 0 ∀ h = 0 не гарантируют локального минимума
отображения.
f : l2 → R, f(x) =
∞
n=1
x2
n
n3
− x4
n → min .
f (ˆx)[h] =
∞
n=1
2ˆxnhn
n3
− 4ˆx3
n hn
⇒ f (0) = 0 ⇒ ˆx = 0 — стационарная точка.
f (ˆx)[h, h] =
∞
n=1
2h2
n
n3
− 12ˆx2
n h2
n ⇒ f (0)[h, h] = 2
∞
n=1
h2
n
n3
> 0
∀ h = 0 ⇒ f (0) положительно определенный оператор, но не
строго положительный. На последовательности xn = en
n
(xn → ˆx = 0 при n → +∞), f(xn) =
1
n5
−
1
n4
< 0 = f(0)
⇒ ˆx = 0 ∈ locmin f.
Галеев Э. М. МГУ
Лекции: Методы оптимизации
Пример 2. В бесконечномерных пространствах условие f (ˆx) = 0
и f (ˆx)[h, h] > 0 ∀ h = 0 не гарантируют локального минимума
отображения.
f : l2 → R, f(x) =
∞
n=1
x2
n
n3
− x4
n → min .
f (ˆx)[h] =
∞
n=1
2ˆxnhn
n3
− 4ˆx3
n hn
⇒ f (0) = 0 ⇒ ˆx = 0 — стационарная точка.
f (ˆx)[h, h] =
∞
n=1
2h2
n
n3
− 12ˆx2
n h2
n ⇒ f (0)[h, h] = 2
∞
n=1
h2
n
n3
> 0
∀ h = 0 ⇒ f (0) положительно определенный оператор, но не
строго положительный. На последовательности xn = en
n
(xn → ˆx = 0 при n → +∞), f(xn) =
1
n5
−
1
n4
< 0 = f(0)
⇒ ˆx = 0 ∈ locmin f.
Галеев Э. М. МГУ
Лекции: Методы оптимизации
Пример 2. В бесконечномерных пространствах условие f (ˆx) = 0
и f (ˆx)[h, h] > 0 ∀ h = 0 не гарантируют локального минимума
отображения.
f : l2 → R, f(x) =
∞
n=1
x2
n
n3
− x4
n → min .
f (ˆx)[h] =
∞
n=1
2ˆxnhn
n3
− 4ˆx3
n hn
⇒ f (0) = 0 ⇒ ˆx = 0 — стационарная точка.
f (ˆx)[h, h] =
∞
n=1
2h2
n
n3
− 12ˆx2
n h2
n ⇒ f (0)[h, h] = 2
∞
n=1
h2
n
n3
> 0
∀ h = 0 ⇒ f (0) положительно определенный оператор, но не
строго положительный. На последовательности xn = en
n
(xn → ˆx = 0 при n → +∞), f(xn) =
1
n5
−
1
n4
< 0 = f(0)
⇒ ˆx = 0 ∈ locmin f.
Галеев Э. М. МГУ
Лекции: Методы оптимизации
Пример 2. В бесконечномерных пространствах условие f (ˆx) = 0
и f (ˆx)[h, h] > 0 ∀ h = 0 не гарантируют локального минимума
отображения.
f : l2 → R, f(x) =
∞
n=1
x2
n
n3
− x4
n → min .
f (ˆx)[h] =
∞
n=1
2ˆxnhn
n3
− 4ˆx3
n hn
⇒ f (0) = 0 ⇒ ˆx = 0 — стационарная точка.
f (ˆx)[h, h] =
∞
n=1
2h2
n
n3
− 12ˆx2
n h2
n ⇒ f (0)[h, h] = 2
∞
n=1
h2
n
n3
> 0
∀ h = 0 ⇒ f (0) положительно определенный оператор, но не
строго положительный. На последовательности xn = en
n
(xn → ˆx = 0 при n → +∞), f(xn) =
1
n5
−
1
n4
< 0 = f(0)
⇒ ˆx = 0 ∈ locmin f.
Галеев Э. М. МГУ
Лекции: Методы оптимизации

Pr i-6

  • 1.
    §6. Гладкая задачабез ограничений 6.1 Постановка задачи X — линейное нормированное пространство, f : X → R — функционал, гладкий. Гладкая задача без ограничений: f(x) → extr. Теорема (аналог т. Ферма в нормированных пространствах) Пусть ˆx ∈ locextr f, f ∈ D(ˆx) (имеет вариацию по Лагранжу в точке ˆx.) Тогда f (ˆx) = 0 (δf(ˆx, h) = 0 ∀ h ∈ X). ¡ Возьмем произвольный, но фиксированный элемент h∈X. Рассмотрим функцию одной переменной ϕ(λ) = f(ˆx + λh). ˆx ∈ locextr f ⇒ 0 ∈ locextr ϕ. По т. Ферма для функций ϕ (0) = 0 ⇔ δf(ˆx, h) = 0. В силу произвольности h δf(ˆx, ·) = 0. Если f ∈ D(ˆx)⇒ ∃ f (ˆx)[·] = δf(ˆx, ·) = 0 (в силу уже доказанного) ⇒ f (ˆx) = 0. £ Галеев Э. М. МГУ Лекции: Методы оптимизации
  • 2.
    §6. Гладкая задачабез ограничений 6.1 Постановка задачи X — линейное нормированное пространство, f : X → R — функционал, гладкий. Гладкая задача без ограничений: f(x) → extr. Теорема (аналог т. Ферма в нормированных пространствах) Пусть ˆx ∈ locextr f, f ∈ D(ˆx) (имеет вариацию по Лагранжу в точке ˆx.) Тогда f (ˆx) = 0 (δf(ˆx, h) = 0 ∀ h ∈ X). ¡ Возьмем произвольный, но фиксированный элемент h∈X. Рассмотрим функцию одной переменной ϕ(λ) = f(ˆx + λh). ˆx ∈ locextr f ⇒ 0 ∈ locextr ϕ. По т. Ферма для функций ϕ (0) = 0 ⇔ δf(ˆx, h) = 0. В силу произвольности h δf(ˆx, ·) = 0. Если f ∈ D(ˆx)⇒ ∃ f (ˆx)[·] = δf(ˆx, ·) = 0 (в силу уже доказанного) ⇒ f (ˆx) = 0. £ Галеев Э. М. МГУ Лекции: Методы оптимизации
  • 3.
    §6. Гладкая задачабез ограничений 6.1 Постановка задачи X — линейное нормированное пространство, f : X → R — функционал, гладкий. Гладкая задача без ограничений: f(x) → extr. Теорема (аналог т. Ферма в нормированных пространствах) Пусть ˆx ∈ locextr f, f ∈ D(ˆx) (имеет вариацию по Лагранжу в точке ˆx.) Тогда f (ˆx) = 0 (δf(ˆx, h) = 0 ∀ h ∈ X). ¡ Возьмем произвольный, но фиксированный элемент h∈X. Рассмотрим функцию одной переменной ϕ(λ) = f(ˆx + λh). ˆx ∈ locextr f ⇒ 0 ∈ locextr ϕ. По т. Ферма для функций ϕ (0) = 0 ⇔ δf(ˆx, h) = 0. В силу произвольности h δf(ˆx, ·) = 0. Если f ∈ D(ˆx)⇒ ∃ f (ˆx)[·] = δf(ˆx, ·) = 0 (в силу уже доказанного) ⇒ f (ˆx) = 0. £ Галеев Э. М. МГУ Лекции: Методы оптимизации
  • 4.
    §6. Гладкая задачабез ограничений 6.1 Постановка задачи X — линейное нормированное пространство, f : X → R — функционал, гладкий. Гладкая задача без ограничений: f(x) → extr. Теорема (аналог т. Ферма в нормированных пространствах) Пусть ˆx ∈ locextr f, f ∈ D(ˆx) (имеет вариацию по Лагранжу в точке ˆx.) Тогда f (ˆx) = 0 (δf(ˆx, h) = 0 ∀ h ∈ X). ¡ Возьмем произвольный, но фиксированный элемент h∈X. Рассмотрим функцию одной переменной ϕ(λ) = f(ˆx + λh). ˆx ∈ locextr f ⇒ 0 ∈ locextr ϕ. По т. Ферма для функций ϕ (0) = 0 ⇔ δf(ˆx, h) = 0. В силу произвольности h δf(ˆx, ·) = 0. Если f ∈ D(ˆx)⇒ ∃ f (ˆx)[·] = δf(ˆx, ·) = 0 (в силу уже доказанного) ⇒ f (ˆx) = 0. £ Галеев Э. М. МГУ Лекции: Методы оптимизации
  • 5.
    §6. Гладкая задачабез ограничений 6.1 Постановка задачи X — линейное нормированное пространство, f : X → R — функционал, гладкий. Гладкая задача без ограничений: f(x) → extr. Теорема (аналог т. Ферма в нормированных пространствах) Пусть ˆx ∈ locextr f, f ∈ D(ˆx) (имеет вариацию по Лагранжу в точке ˆx.) Тогда f (ˆx) = 0 (δf(ˆx, h) = 0 ∀ h ∈ X). ¡ Возьмем произвольный, но фиксированный элемент h∈X. Рассмотрим функцию одной переменной ϕ(λ) = f(ˆx + λh). ˆx ∈ locextr f ⇒ 0 ∈ locextr ϕ. По т. Ферма для функций ϕ (0) = 0 ⇔ δf(ˆx, h) = 0. В силу произвольности h δf(ˆx, ·) = 0. Если f ∈ D(ˆx)⇒ ∃ f (ˆx)[·] = δf(ˆx, ·) = 0 (в силу уже доказанного) ⇒ f (ˆx) = 0. £ Галеев Э. М. МГУ Лекции: Методы оптимизации
  • 6.
    §6. Гладкая задачабез ограничений 6.1 Постановка задачи X — линейное нормированное пространство, f : X → R — функционал, гладкий. Гладкая задача без ограничений: f(x) → extr. Теорема (аналог т. Ферма в нормированных пространствах) Пусть ˆx ∈ locextr f, f ∈ D(ˆx) (имеет вариацию по Лагранжу в точке ˆx.) Тогда f (ˆx) = 0 (δf(ˆx, h) = 0 ∀ h ∈ X). ¡ Возьмем произвольный, но фиксированный элемент h∈X. Рассмотрим функцию одной переменной ϕ(λ) = f(ˆx + λh). ˆx ∈ locextr f ⇒ 0 ∈ locextr ϕ. По т. Ферма для функций ϕ (0) = 0 ⇔ δf(ˆx, h) = 0. В силу произвольности h δf(ˆx, ·) = 0. Если f ∈ D(ˆx)⇒ ∃ f (ˆx)[·] = δf(ˆx, ·) = 0 (в силу уже доказанного) ⇒ f (ˆx) = 0. £ Галеев Э. М. МГУ Лекции: Методы оптимизации
  • 7.
    §6. Гладкая задачабез ограничений 6.1 Постановка задачи X — линейное нормированное пространство, f : X → R — функционал, гладкий. Гладкая задача без ограничений: f(x) → extr. Теорема (аналог т. Ферма в нормированных пространствах) Пусть ˆx ∈ locextr f, f ∈ D(ˆx) (имеет вариацию по Лагранжу в точке ˆx.) Тогда f (ˆx) = 0 (δf(ˆx, h) = 0 ∀ h ∈ X). ¡ Возьмем произвольный, но фиксированный элемент h∈X. Рассмотрим функцию одной переменной ϕ(λ) = f(ˆx + λh). ˆx ∈ locextr f ⇒ 0 ∈ locextr ϕ. По т. Ферма для функций ϕ (0) = 0 ⇔ δf(ˆx, h) = 0. В силу произвольности h δf(ˆx, ·) = 0. Если f ∈ D(ˆx)⇒ ∃ f (ˆx)[·] = δf(ˆx, ·) = 0 (в силу уже доказанного) ⇒ f (ˆx) = 0. £ Галеев Э. М. МГУ Лекции: Методы оптимизации
  • 8.
    §6. Гладкая задачабез ограничений 6.1 Постановка задачи X — линейное нормированное пространство, f : X → R — функционал, гладкий. Гладкая задача без ограничений: f(x) → extr. Теорема (аналог т. Ферма в нормированных пространствах) Пусть ˆx ∈ locextr f, f ∈ D(ˆx) (имеет вариацию по Лагранжу в точке ˆx.) Тогда f (ˆx) = 0 (δf(ˆx, h) = 0 ∀ h ∈ X). ¡ Возьмем произвольный, но фиксированный элемент h∈X. Рассмотрим функцию одной переменной ϕ(λ) = f(ˆx + λh). ˆx ∈ locextr f ⇒ 0 ∈ locextr ϕ. По т. Ферма для функций ϕ (0) = 0 ⇔ δf(ˆx, h) = 0. В силу произвольности h δf(ˆx, ·) = 0. Если f ∈ D(ˆx)⇒ ∃ f (ˆx)[·] = δf(ˆx, ·) = 0 (в силу уже доказанного) ⇒ f (ˆx) = 0. £ Галеев Э. М. МГУ Лекции: Методы оптимизации
  • 9.
    §6. Гладкая задачабез ограничений 6.1 Постановка задачи X — линейное нормированное пространство, f : X → R — функционал, гладкий. Гладкая задача без ограничений: f(x) → extr. Теорема (аналог т. Ферма в нормированных пространствах) Пусть ˆx ∈ locextr f, f ∈ D(ˆx) (имеет вариацию по Лагранжу в точке ˆx.) Тогда f (ˆx) = 0 (δf(ˆx, h) = 0 ∀ h ∈ X). ¡ Возьмем произвольный, но фиксированный элемент h∈X. Рассмотрим функцию одной переменной ϕ(λ) = f(ˆx + λh). ˆx ∈ locextr f ⇒ 0 ∈ locextr ϕ. По т. Ферма для функций ϕ (0) = 0 ⇔ δf(ˆx, h) = 0. В силу произвольности h δf(ˆx, ·) = 0. Если f ∈ D(ˆx)⇒ ∃ f (ˆx)[·] = δf(ˆx, ·) = 0 (в силу уже доказанного) ⇒ f (ˆx) = 0. £ Галеев Э. М. МГУ Лекции: Методы оптимизации
  • 10.
    §6. Гладкая задачабез ограничений 6.1 Постановка задачи X — линейное нормированное пространство, f : X → R — функционал, гладкий. Гладкая задача без ограничений: f(x) → extr. Теорема (аналог т. Ферма в нормированных пространствах) Пусть ˆx ∈ locextr f, f ∈ D(ˆx) (имеет вариацию по Лагранжу в точке ˆx.) Тогда f (ˆx) = 0 (δf(ˆx, h) = 0 ∀ h ∈ X). ¡ Возьмем произвольный, но фиксированный элемент h∈X. Рассмотрим функцию одной переменной ϕ(λ) = f(ˆx + λh). ˆx ∈ locextr f ⇒ 0 ∈ locextr ϕ. По т. Ферма для функций ϕ (0) = 0 ⇔ δf(ˆx, h) = 0. В силу произвольности h δf(ˆx, ·) = 0. Если f ∈ D(ˆx)⇒ ∃ f (ˆx)[·] = δf(ˆx, ·) = 0 (в силу уже доказанного) ⇒ f (ˆx) = 0. £ Галеев Э. М. МГУ Лекции: Методы оптимизации
  • 11.
    §6. Гладкая задачабез ограничений 6.1 Постановка задачи X — линейное нормированное пространство, f : X → R — функционал, гладкий. Гладкая задача без ограничений: f(x) → extr. Теорема (аналог т. Ферма в нормированных пространствах) Пусть ˆx ∈ locextr f, f ∈ D(ˆx) (имеет вариацию по Лагранжу в точке ˆx.) Тогда f (ˆx) = 0 (δf(ˆx, h) = 0 ∀ h ∈ X). ¡ Возьмем произвольный, но фиксированный элемент h∈X. Рассмотрим функцию одной переменной ϕ(λ) = f(ˆx + λh). ˆx ∈ locextr f ⇒ 0 ∈ locextr ϕ. По т. Ферма для функций ϕ (0) = 0 ⇔ δf(ˆx, h) = 0. В силу произвольности h δf(ˆx, ·) = 0. Если f ∈ D(ˆx)⇒ ∃ f (ˆx)[·] = δf(ˆx, ·) = 0 (в силу уже доказанного) ⇒ f (ˆx) = 0. £ Галеев Э. М. МГУ Лекции: Методы оптимизации
  • 12.
    §6. Гладкая задачабез ограничений 6.1 Постановка задачи X — линейное нормированное пространство, f : X → R — функционал, гладкий. Гладкая задача без ограничений: f(x) → extr. Теорема (аналог т. Ферма в нормированных пространствах) Пусть ˆx ∈ locextr f, f ∈ D(ˆx) (имеет вариацию по Лагранжу в точке ˆx.) Тогда f (ˆx) = 0 (δf(ˆx, h) = 0 ∀ h ∈ X). ¡ Возьмем произвольный, но фиксированный элемент h∈X. Рассмотрим функцию одной переменной ϕ(λ) = f(ˆx + λh). ˆx ∈ locextr f ⇒ 0 ∈ locextr ϕ. По т. Ферма для функций ϕ (0) = 0 ⇔ δf(ˆx, h) = 0. В силу произвольности h δf(ˆx, ·) = 0. Если f ∈ D(ˆx)⇒ ∃ f (ˆx)[·] = δf(ˆx, ·) = 0 (в силу уже доказанного) ⇒ f (ˆx) = 0. £ Галеев Э. М. МГУ Лекции: Методы оптимизации
  • 13.
    §6. Гладкая задачабез ограничений 6.1 Постановка задачи X — линейное нормированное пространство, f : X → R — функционал, гладкий. Гладкая задача без ограничений: f(x) → extr. Теорема (аналог т. Ферма в нормированных пространствах) Пусть ˆx ∈ locextr f, f ∈ D(ˆx) (имеет вариацию по Лагранжу в точке ˆx.) Тогда f (ˆx) = 0 (δf(ˆx, h) = 0 ∀ h ∈ X). ¡ Возьмем произвольный, но фиксированный элемент h∈X. Рассмотрим функцию одной переменной ϕ(λ) = f(ˆx + λh). ˆx ∈ locextr f ⇒ 0 ∈ locextr ϕ. По т. Ферма для функций ϕ (0) = 0 ⇔ δf(ˆx, h) = 0. В силу произвольности h δf(ˆx, ·) = 0. Если f ∈ D(ˆx)⇒ ∃ f (ˆx)[·] = δf(ˆx, ·) = 0 (в силу уже доказанного) ⇒ f (ˆx) = 0. £ Галеев Э. М. МГУ Лекции: Методы оптимизации
  • 14.
    §6. Гладкая задачабез ограничений 6.1 Постановка задачи X — линейное нормированное пространство, f : X → R — функционал, гладкий. Гладкая задача без ограничений: f(x) → extr. Теорема (аналог т. Ферма в нормированных пространствах) Пусть ˆx ∈ locextr f, f ∈ D(ˆx) (имеет вариацию по Лагранжу в точке ˆx.) Тогда f (ˆx) = 0 (δf(ˆx, h) = 0 ∀ h ∈ X). ¡ Возьмем произвольный, но фиксированный элемент h∈X. Рассмотрим функцию одной переменной ϕ(λ) = f(ˆx + λh). ˆx ∈ locextr f ⇒ 0 ∈ locextr ϕ. По т. Ферма для функций ϕ (0) = 0 ⇔ δf(ˆx, h) = 0. В силу произвольности h δf(ˆx, ·) = 0. Если f ∈ D(ˆx)⇒ ∃ f (ˆx)[·] = δf(ˆx, ·) = 0 (в силу уже доказанного) ⇒ f (ˆx) = 0. £ Галеев Э. М. МГУ Лекции: Методы оптимизации
  • 15.
    §6. Гладкая задачабез ограничений 6.1 Постановка задачи X — линейное нормированное пространство, f : X → R — функционал, гладкий. Гладкая задача без ограничений: f(x) → extr. Теорема (аналог т. Ферма в нормированных пространствах) Пусть ˆx ∈ locextr f, f ∈ D(ˆx) (имеет вариацию по Лагранжу в точке ˆx.) Тогда f (ˆx) = 0 (δf(ˆx, h) = 0 ∀ h ∈ X). ¡ Возьмем произвольный, но фиксированный элемент h∈X. Рассмотрим функцию одной переменной ϕ(λ) = f(ˆx + λh). ˆx ∈ locextr f ⇒ 0 ∈ locextr ϕ. По т. Ферма для функций ϕ (0) = 0 ⇔ δf(ˆx, h) = 0. В силу произвольности h δf(ˆx, ·) = 0. Если f ∈ D(ˆx)⇒ ∃ f (ˆx)[·] = δf(ˆx, ·) = 0 (в силу уже доказанного) ⇒ f (ˆx) = 0. £ Галеев Э. М. МГУ Лекции: Методы оптимизации
  • 16.
    §6. Гладкая задачабез ограничений 6.1 Постановка задачи X — линейное нормированное пространство, f : X → R — функционал, гладкий. Гладкая задача без ограничений: f(x) → extr. Теорема (аналог т. Ферма в нормированных пространствах) Пусть ˆx ∈ locextr f, f ∈ D(ˆx) (имеет вариацию по Лагранжу в точке ˆx.) Тогда f (ˆx) = 0 (δf(ˆx, h) = 0 ∀ h ∈ X). ¡ Возьмем произвольный, но фиксированный элемент h∈X. Рассмотрим функцию одной переменной ϕ(λ) = f(ˆx + λh). ˆx ∈ locextr f ⇒ 0 ∈ locextr ϕ. По т. Ферма для функций ϕ (0) = 0 ⇔ δf(ˆx, h) = 0. В силу произвольности h δf(ˆx, ·) = 0. Если f ∈ D(ˆx)⇒ ∃ f (ˆx)[·] = δf(ˆx, ·) = 0 (в силу уже доказанного) ⇒ f (ˆx) = 0. £ Галеев Э. М. МГУ Лекции: Методы оптимизации
  • 17.
    §6. Гладкая задачабез ограничений 6.1 Постановка задачи X — линейное нормированное пространство, f : X → R — функционал, гладкий. Гладкая задача без ограничений: f(x) → extr. Теорема (аналог т. Ферма в нормированных пространствах) Пусть ˆx ∈ locextr f, f ∈ D(ˆx) (имеет вариацию по Лагранжу в точке ˆx.) Тогда f (ˆx) = 0 (δf(ˆx, h) = 0 ∀ h ∈ X). ¡ Возьмем произвольный, но фиксированный элемент h∈X. Рассмотрим функцию одной переменной ϕ(λ) = f(ˆx + λh). ˆx ∈ locextr f ⇒ 0 ∈ locextr ϕ. По т. Ферма для функций ϕ (0) = 0 ⇔ δf(ˆx, h) = 0. В силу произвольности h δf(ˆx, ·) = 0. Если f ∈ D(ˆx)⇒ ∃ f (ˆx)[·] = δf(ˆx, ·) = 0 (в силу уже доказанного) ⇒ f (ˆx) = 0. £ Галеев Э. М. МГУ Лекции: Методы оптимизации
  • 18.
    §6. Гладкая задачабез ограничений 6.1 Постановка задачи X — линейное нормированное пространство, f : X → R — функционал, гладкий. Гладкая задача без ограничений: f(x) → extr. Теорема (аналог т. Ферма в нормированных пространствах) Пусть ˆx ∈ locextr f, f ∈ D(ˆx) (имеет вариацию по Лагранжу в точке ˆx.) Тогда f (ˆx) = 0 (δf(ˆx, h) = 0 ∀ h ∈ X). ¡ Возьмем произвольный, но фиксированный элемент h∈X. Рассмотрим функцию одной переменной ϕ(λ) = f(ˆx + λh). ˆx ∈ locextr f ⇒ 0 ∈ locextr ϕ. По т. Ферма для функций ϕ (0) = 0 ⇔ δf(ˆx, h) = 0. В силу произвольности h δf(ˆx, ·) = 0. Если f ∈ D(ˆx)⇒ ∃ f (ˆx)[·] = δf(ˆx, ·) = 0 (в силу уже доказанного) ⇒ f (ˆx) = 0. £ Галеев Э. М. МГУ Лекции: Методы оптимизации
  • 19.
    §6. Гладкая задачабез ограничений 6.1 Постановка задачи X — линейное нормированное пространство, f : X → R — функционал, гладкий. Гладкая задача без ограничений: f(x) → extr. Теорема (аналог т. Ферма в нормированных пространствах) Пусть ˆx ∈ locextr f, f ∈ D(ˆx) (имеет вариацию по Лагранжу в точке ˆx.) Тогда f (ˆx) = 0 (δf(ˆx, h) = 0 ∀ h ∈ X). ¡ Возьмем произвольный, но фиксированный элемент h∈X. Рассмотрим функцию одной переменной ϕ(λ) = f(ˆx + λh). ˆx ∈ locextr f ⇒ 0 ∈ locextr ϕ. По т. Ферма для функций ϕ (0) = 0 ⇔ δf(ˆx, h) = 0. В силу произвольности h δf(ˆx, ·) = 0. Если f ∈ D(ˆx)⇒ ∃ f (ˆx)[·] = δf(ˆx, ·) = 0 (в силу уже доказанного) ⇒ f (ˆx) = 0. £ Галеев Э. М. МГУ Лекции: Методы оптимизации
  • 20.
    §6. Гладкая задачабез ограничений 6.1 Постановка задачи X — линейное нормированное пространство, f : X → R — функционал, гладкий. Гладкая задача без ограничений: f(x) → extr. Теорема (аналог т. Ферма в нормированных пространствах) Пусть ˆx ∈ locextr f, f ∈ D(ˆx) (имеет вариацию по Лагранжу в точке ˆx.) Тогда f (ˆx) = 0 (δf(ˆx, h) = 0 ∀ h ∈ X). ¡ Возьмем произвольный, но фиксированный элемент h∈X. Рассмотрим функцию одной переменной ϕ(λ) = f(ˆx + λh). ˆx ∈ locextr f ⇒ 0 ∈ locextr ϕ. По т. Ферма для функций ϕ (0) = 0 ⇔ δf(ˆx, h) = 0. В силу произвольности h δf(ˆx, ·) = 0. Если f ∈ D(ˆx)⇒ ∃ f (ˆx)[·] = δf(ˆx, ·) = 0 (в силу уже доказанного) ⇒ f (ˆx) = 0. £ Галеев Э. М. МГУ Лекции: Методы оптимизации
  • 21.
    Теорема (необходимые идостаточные условия II порядка) Необходимые условия экстремума: если ˆx ∈ locmin f и f ∈ D2(ˆx), то f (ˆx) = 0, f (ˆx)h, h ≥ 0 ∀ h ∈ X. Достаточные условия экстремума: если f (ˆx) = 0, ∃ α > 0 : f (ˆx)h, h ≥ α h 2 ∀ h ∈ X, то ˆx ∈ locmin f. ¡ По формуле Тейлора f(ˆx +h) = f(ˆx)+ f (ˆx), h + 1 2 f (ˆx)[h, h]+r(h), r(h) = o( h 2 ). Необходимость. Пусть ˆx ∈ locmin f. Тогда по аналогу т. Ферма f (ˆx) = 0, следовательно, по формуле Тейлора f(ˆx + λh) − f(ˆx) = λ2 2 f (ˆx)[h, h] + r(λh), r(λh) = o(|λ|2 ) при малых λ и фиксированном h. Поскольку ˆx ∈ locmin f, то f(ˆx + λh) − f(ˆx) ≥ 0. Поэтому λ2 2 f (ˆx)[h, h] + r(λh) ≥ 0. Разделим обе части последнего неравенства на λ2 и устремим λ к нулю. Поскольку r(λh) λ2 → 0, то f (ˆx)[h, h] ≥ 0. Галеев Э. М. МГУ Лекции: Методы оптимизации
  • 22.
    Теорема (необходимые идостаточные условия II порядка) Необходимые условия экстремума: если ˆx ∈ locmin f и f ∈ D2(ˆx), то f (ˆx) = 0, f (ˆx)h, h ≥ 0 ∀ h ∈ X. Достаточные условия экстремума: если f (ˆx) = 0, ∃ α > 0 : f (ˆx)h, h ≥ α h 2 ∀ h ∈ X, то ˆx ∈ locmin f. ¡ По формуле Тейлора f(ˆx +h) = f(ˆx)+ f (ˆx), h + 1 2 f (ˆx)[h, h]+r(h), r(h) = o( h 2 ). Необходимость. Пусть ˆx ∈ locmin f. Тогда по аналогу т. Ферма f (ˆx) = 0, следовательно, по формуле Тейлора f(ˆx + λh) − f(ˆx) = λ2 2 f (ˆx)[h, h] + r(λh), r(λh) = o(|λ|2 ) при малых λ и фиксированном h. Поскольку ˆx ∈ locmin f, то f(ˆx + λh) − f(ˆx) ≥ 0. Поэтому λ2 2 f (ˆx)[h, h] + r(λh) ≥ 0. Разделим обе части последнего неравенства на λ2 и устремим λ к нулю. Поскольку r(λh) λ2 → 0, то f (ˆx)[h, h] ≥ 0. Галеев Э. М. МГУ Лекции: Методы оптимизации
  • 23.
    Теорема (необходимые идостаточные условия II порядка) Необходимые условия экстремума: если ˆx ∈ locmin f и f ∈ D2(ˆx), то f (ˆx) = 0, f (ˆx)h, h ≥ 0 ∀ h ∈ X. Достаточные условия экстремума: если f (ˆx) = 0, ∃ α > 0 : f (ˆx)h, h ≥ α h 2 ∀ h ∈ X, то ˆx ∈ locmin f. ¡ По формуле Тейлора f(ˆx +h) = f(ˆx)+ f (ˆx), h + 1 2 f (ˆx)[h, h]+r(h), r(h) = o( h 2 ). Необходимость. Пусть ˆx ∈ locmin f. Тогда по аналогу т. Ферма f (ˆx) = 0, следовательно, по формуле Тейлора f(ˆx + λh) − f(ˆx) = λ2 2 f (ˆx)[h, h] + r(λh), r(λh) = o(|λ|2 ) при малых λ и фиксированном h. Поскольку ˆx ∈ locmin f, то f(ˆx + λh) − f(ˆx) ≥ 0. Поэтому λ2 2 f (ˆx)[h, h] + r(λh) ≥ 0. Разделим обе части последнего неравенства на λ2 и устремим λ к нулю. Поскольку r(λh) λ2 → 0, то f (ˆx)[h, h] ≥ 0. Галеев Э. М. МГУ Лекции: Методы оптимизации
  • 24.
    Теорема (необходимые идостаточные условия II порядка) Необходимые условия экстремума: если ˆx ∈ locmin f и f ∈ D2(ˆx), то f (ˆx) = 0, f (ˆx)h, h ≥ 0 ∀ h ∈ X. Достаточные условия экстремума: если f (ˆx) = 0, ∃ α > 0 : f (ˆx)h, h ≥ α h 2 ∀ h ∈ X, то ˆx ∈ locmin f. ¡ По формуле Тейлора f(ˆx +h) = f(ˆx)+ f (ˆx), h + 1 2 f (ˆx)[h, h]+r(h), r(h) = o( h 2 ). Необходимость. Пусть ˆx ∈ locmin f. Тогда по аналогу т. Ферма f (ˆx) = 0, следовательно, по формуле Тейлора f(ˆx + λh) − f(ˆx) = λ2 2 f (ˆx)[h, h] + r(λh), r(λh) = o(|λ|2 ) при малых λ и фиксированном h. Поскольку ˆx ∈ locmin f, то f(ˆx + λh) − f(ˆx) ≥ 0. Поэтому λ2 2 f (ˆx)[h, h] + r(λh) ≥ 0. Разделим обе части последнего неравенства на λ2 и устремим λ к нулю. Поскольку r(λh) λ2 → 0, то f (ˆx)[h, h] ≥ 0. Галеев Э. М. МГУ Лекции: Методы оптимизации
  • 25.
    Теорема (необходимые идостаточные условия II порядка) Необходимые условия экстремума: если ˆx ∈ locmin f и f ∈ D2(ˆx), то f (ˆx) = 0, f (ˆx)h, h ≥ 0 ∀ h ∈ X. Достаточные условия экстремума: если f (ˆx) = 0, ∃ α > 0 : f (ˆx)h, h ≥ α h 2 ∀ h ∈ X, то ˆx ∈ locmin f. ¡ По формуле Тейлора f(ˆx +h) = f(ˆx)+ f (ˆx), h + 1 2 f (ˆx)[h, h]+r(h), r(h) = o( h 2 ). Необходимость. Пусть ˆx ∈ locmin f. Тогда по аналогу т. Ферма f (ˆx) = 0, следовательно, по формуле Тейлора f(ˆx + λh) − f(ˆx) = λ2 2 f (ˆx)[h, h] + r(λh), r(λh) = o(|λ|2 ) при малых λ и фиксированном h. Поскольку ˆx ∈ locmin f, то f(ˆx + λh) − f(ˆx) ≥ 0. Поэтому λ2 2 f (ˆx)[h, h] + r(λh) ≥ 0. Разделим обе части последнего неравенства на λ2 и устремим λ к нулю. Поскольку r(λh) λ2 → 0, то f (ˆx)[h, h] ≥ 0. Галеев Э. М. МГУ Лекции: Методы оптимизации
  • 26.
    Теорема (необходимые идостаточные условия II порядка) Необходимые условия экстремума: если ˆx ∈ locmin f и f ∈ D2(ˆx), то f (ˆx) = 0, f (ˆx)h, h ≥ 0 ∀ h ∈ X. Достаточные условия экстремума: если f (ˆx) = 0, ∃ α > 0 : f (ˆx)h, h ≥ α h 2 ∀ h ∈ X, то ˆx ∈ locmin f. ¡ По формуле Тейлора f(ˆx +h) = f(ˆx)+ f (ˆx), h + 1 2 f (ˆx)[h, h]+r(h), r(h) = o( h 2 ). Необходимость. Пусть ˆx ∈ locmin f. Тогда по аналогу т. Ферма f (ˆx) = 0, следовательно, по формуле Тейлора f(ˆx + λh) − f(ˆx) = λ2 2 f (ˆx)[h, h] + r(λh), r(λh) = o(|λ|2 ) при малых λ и фиксированном h. Поскольку ˆx ∈ locmin f, то f(ˆx + λh) − f(ˆx) ≥ 0. Поэтому λ2 2 f (ˆx)[h, h] + r(λh) ≥ 0. Разделим обе части последнего неравенства на λ2 и устремим λ к нулю. Поскольку r(λh) λ2 → 0, то f (ˆx)[h, h] ≥ 0. Галеев Э. М. МГУ Лекции: Методы оптимизации
  • 27.
    Теорема (необходимые идостаточные условия II порядка) Необходимые условия экстремума: если ˆx ∈ locmin f и f ∈ D2(ˆx), то f (ˆx) = 0, f (ˆx)h, h ≥ 0 ∀ h ∈ X. Достаточные условия экстремума: если f (ˆx) = 0, ∃ α > 0 : f (ˆx)h, h ≥ α h 2 ∀ h ∈ X, то ˆx ∈ locmin f. ¡ По формуле Тейлора f(ˆx +h) = f(ˆx)+ f (ˆx), h + 1 2 f (ˆx)[h, h]+r(h), r(h) = o( h 2 ). Необходимость. Пусть ˆx ∈ locmin f. Тогда по аналогу т. Ферма f (ˆx) = 0, следовательно, по формуле Тейлора f(ˆx + λh) − f(ˆx) = λ2 2 f (ˆx)[h, h] + r(λh), r(λh) = o(|λ|2 ) при малых λ и фиксированном h. Поскольку ˆx ∈ locmin f, то f(ˆx + λh) − f(ˆx) ≥ 0. Поэтому λ2 2 f (ˆx)[h, h] + r(λh) ≥ 0. Разделим обе части последнего неравенства на λ2 и устремим λ к нулю. Поскольку r(λh) λ2 → 0, то f (ˆx)[h, h] ≥ 0. Галеев Э. М. МГУ Лекции: Методы оптимизации
  • 28.
    Теорема (необходимые идостаточные условия II порядка) Необходимые условия экстремума: если ˆx ∈ locmin f и f ∈ D2(ˆx), то f (ˆx) = 0, f (ˆx)h, h ≥ 0 ∀ h ∈ X. Достаточные условия экстремума: если f (ˆx) = 0, ∃ α > 0 : f (ˆx)h, h ≥ α h 2 ∀ h ∈ X, то ˆx ∈ locmin f. ¡ По формуле Тейлора f(ˆx +h) = f(ˆx)+ f (ˆx), h + 1 2 f (ˆx)[h, h]+r(h), r(h) = o( h 2 ). Необходимость. Пусть ˆx ∈ locmin f. Тогда по аналогу т. Ферма f (ˆx) = 0, следовательно, по формуле Тейлора f(ˆx + λh) − f(ˆx) = λ2 2 f (ˆx)[h, h] + r(λh), r(λh) = o(|λ|2 ) при малых λ и фиксированном h. Поскольку ˆx ∈ locmin f, то f(ˆx + λh) − f(ˆx) ≥ 0. Поэтому λ2 2 f (ˆx)[h, h] + r(λh) ≥ 0. Разделим обе части последнего неравенства на λ2 и устремим λ к нулю. Поскольку r(λh) λ2 → 0, то f (ˆx)[h, h] ≥ 0. Галеев Э. М. МГУ Лекции: Методы оптимизации
  • 29.
    Теорема (необходимые идостаточные условия II порядка) Необходимые условия экстремума: если ˆx ∈ locmin f и f ∈ D2(ˆx), то f (ˆx) = 0, f (ˆx)h, h ≥ 0 ∀ h ∈ X. Достаточные условия экстремума: если f (ˆx) = 0, ∃ α > 0 : f (ˆx)h, h ≥ α h 2 ∀ h ∈ X, то ˆx ∈ locmin f. ¡ По формуле Тейлора f(ˆx +h) = f(ˆx)+ f (ˆx), h + 1 2 f (ˆx)[h, h]+r(h), r(h) = o( h 2 ). Необходимость. Пусть ˆx ∈ locmin f. Тогда по аналогу т. Ферма f (ˆx) = 0, следовательно, по формуле Тейлора f(ˆx + λh) − f(ˆx) = λ2 2 f (ˆx)[h, h] + r(λh), r(λh) = o(|λ|2 ) при малых λ и фиксированном h. Поскольку ˆx ∈ locmin f, то f(ˆx + λh) − f(ˆx) ≥ 0. Поэтому λ2 2 f (ˆx)[h, h] + r(λh) ≥ 0. Разделим обе части последнего неравенства на λ2 и устремим λ к нулю. Поскольку r(λh) λ2 → 0, то f (ˆx)[h, h] ≥ 0. Галеев Э. М. МГУ Лекции: Методы оптимизации
  • 30.
    Теорема (необходимые идостаточные условия II порядка) Необходимые условия экстремума: если ˆx ∈ locmin f и f ∈ D2(ˆx), то f (ˆx) = 0, f (ˆx)h, h ≥ 0 ∀ h ∈ X. Достаточные условия экстремума: если f (ˆx) = 0, ∃ α > 0 : f (ˆx)h, h ≥ α h 2 ∀ h ∈ X, то ˆx ∈ locmin f. ¡ По формуле Тейлора f(ˆx +h) = f(ˆx)+ f (ˆx), h + 1 2 f (ˆx)[h, h]+r(h), r(h) = o( h 2 ). Необходимость. Пусть ˆx ∈ locmin f. Тогда по аналогу т. Ферма f (ˆx) = 0, следовательно, по формуле Тейлора f(ˆx + λh) − f(ˆx) = λ2 2 f (ˆx)[h, h] + r(λh), r(λh) = o(|λ|2 ) при малых λ и фиксированном h. Поскольку ˆx ∈ locmin f, то f(ˆx + λh) − f(ˆx) ≥ 0. Поэтому λ2 2 f (ˆx)[h, h] + r(λh) ≥ 0. Разделим обе части последнего неравенства на λ2 и устремим λ к нулю. Поскольку r(λh) λ2 → 0, то f (ˆx)[h, h] ≥ 0. Галеев Э. М. МГУ Лекции: Методы оптимизации
  • 31.
    Теорема (необходимые идостаточные условия II порядка) Необходимые условия экстремума: если ˆx ∈ locmin f и f ∈ D2(ˆx), то f (ˆx) = 0, f (ˆx)h, h ≥ 0 ∀ h ∈ X. Достаточные условия экстремума: если f (ˆx) = 0, ∃ α > 0 : f (ˆx)h, h ≥ α h 2 ∀ h ∈ X, то ˆx ∈ locmin f. ¡ По формуле Тейлора f(ˆx +h) = f(ˆx)+ f (ˆx), h + 1 2 f (ˆx)[h, h]+r(h), r(h) = o( h 2 ). Необходимость. Пусть ˆx ∈ locmin f. Тогда по аналогу т. Ферма f (ˆx) = 0, следовательно, по формуле Тейлора f(ˆx + λh) − f(ˆx) = λ2 2 f (ˆx)[h, h] + r(λh), r(λh) = o(|λ|2 ) при малых λ и фиксированном h. Поскольку ˆx ∈ locmin f, то f(ˆx + λh) − f(ˆx) ≥ 0. Поэтому λ2 2 f (ˆx)[h, h] + r(λh) ≥ 0. Разделим обе части последнего неравенства на λ2 и устремим λ к нулю. Поскольку r(λh) λ2 → 0, то f (ˆx)[h, h] ≥ 0. Галеев Э. М. МГУ Лекции: Методы оптимизации
  • 32.
    Теорема (необходимые идостаточные условия II порядка) Необходимые условия экстремума: если ˆx ∈ locmin f и f ∈ D2(ˆx), то f (ˆx) = 0, f (ˆx)h, h ≥ 0 ∀ h ∈ X. Достаточные условия экстремума: если f (ˆx) = 0, ∃ α > 0 : f (ˆx)h, h ≥ α h 2 ∀ h ∈ X, то ˆx ∈ locmin f. ¡ По формуле Тейлора f(ˆx +h) = f(ˆx)+ f (ˆx), h + 1 2 f (ˆx)[h, h]+r(h), r(h) = o( h 2 ). Необходимость. Пусть ˆx ∈ locmin f. Тогда по аналогу т. Ферма f (ˆx) = 0, следовательно, по формуле Тейлора f(ˆx + λh) − f(ˆx) = λ2 2 f (ˆx)[h, h] + r(λh), r(λh) = o(|λ|2 ) при малых λ и фиксированном h. Поскольку ˆx ∈ locmin f, то f(ˆx + λh) − f(ˆx) ≥ 0. Поэтому λ2 2 f (ˆx)[h, h] + r(λh) ≥ 0. Разделим обе части последнего неравенства на λ2 и устремим λ к нулю. Поскольку r(λh) λ2 → 0, то f (ˆx)[h, h] ≥ 0. Галеев Э. М. МГУ Лекции: Методы оптимизации
  • 33.
    Теорема (необходимые идостаточные условия II порядка) Необходимые условия экстремума: если ˆx ∈ locmin f и f ∈ D2(ˆx), то f (ˆx) = 0, f (ˆx)h, h ≥ 0 ∀ h ∈ X. Достаточные условия экстремума: если f (ˆx) = 0, ∃ α > 0 : f (ˆx)h, h ≥ α h 2 ∀ h ∈ X, то ˆx ∈ locmin f. ¡ По формуле Тейлора f(ˆx +h) = f(ˆx)+ f (ˆx), h + 1 2 f (ˆx)[h, h]+r(h), r(h) = o( h 2 ). Необходимость. Пусть ˆx ∈ locmin f. Тогда по аналогу т. Ферма f (ˆx) = 0, следовательно, по формуле Тейлора f(ˆx + λh) − f(ˆx) = λ2 2 f (ˆx)[h, h] + r(λh), r(λh) = o(|λ|2 ) при малых λ и фиксированном h. Поскольку ˆx ∈ locmin f, то f(ˆx + λh) − f(ˆx) ≥ 0. Поэтому λ2 2 f (ˆx)[h, h] + r(λh) ≥ 0. Разделим обе части последнего неравенства на λ2 и устремим λ к нулю. Поскольку r(λh) λ2 → 0, то f (ˆx)[h, h] ≥ 0. Галеев Э. М. МГУ Лекции: Методы оптимизации
  • 34.
    Теорема (необходимые идостаточные условия II порядка) Необходимые условия экстремума: если ˆx ∈ locmin f и f ∈ D2(ˆx), то f (ˆx) = 0, f (ˆx)h, h ≥ 0 ∀ h ∈ X. Достаточные условия экстремума: если f (ˆx) = 0, ∃ α > 0 : f (ˆx)h, h ≥ α h 2 ∀ h ∈ X, то ˆx ∈ locmin f. ¡ По формуле Тейлора f(ˆx +h) = f(ˆx)+ f (ˆx), h + 1 2 f (ˆx)[h, h]+r(h), r(h) = o( h 2 ). Необходимость. Пусть ˆx ∈ locmin f. Тогда по аналогу т. Ферма f (ˆx) = 0, следовательно, по формуле Тейлора f(ˆx + λh) − f(ˆx) = λ2 2 f (ˆx)[h, h] + r(λh), r(λh) = o(|λ|2 ) при малых λ и фиксированном h. Поскольку ˆx ∈ locmin f, то f(ˆx + λh) − f(ˆx) ≥ 0. Поэтому λ2 2 f (ˆx)[h, h] + r(λh) ≥ 0. Разделим обе части последнего неравенства на λ2 и устремим λ к нулю. Поскольку r(λh) λ2 → 0, то f (ˆx)[h, h] ≥ 0. Галеев Э. М. МГУ Лекции: Методы оптимизации
  • 35.
    Теорема (необходимые идостаточные условия II порядка) Необходимые условия экстремума: если ˆx ∈ locmin f и f ∈ D2(ˆx), то f (ˆx) = 0, f (ˆx)h, h ≥ 0 ∀ h ∈ X. Достаточные условия экстремума: если f (ˆx) = 0, ∃ α > 0 : f (ˆx)h, h ≥ α h 2 ∀ h ∈ X, то ˆx ∈ locmin f. ¡ По формуле Тейлора f(ˆx +h) = f(ˆx)+ f (ˆx), h + 1 2 f (ˆx)[h, h]+r(h), r(h) = o( h 2 ). Необходимость. Пусть ˆx ∈ locmin f. Тогда по аналогу т. Ферма f (ˆx) = 0, следовательно, по формуле Тейлора f(ˆx + λh) − f(ˆx) = λ2 2 f (ˆx)[h, h] + r(λh), r(λh) = o(|λ|2 ) при малых λ и фиксированном h. Поскольку ˆx ∈ locmin f, то f(ˆx + λh) − f(ˆx) ≥ 0. Поэтому λ2 2 f (ˆx)[h, h] + r(λh) ≥ 0. Разделим обе части последнего неравенства на λ2 и устремим λ к нулю. Поскольку r(λh) λ2 → 0, то f (ˆx)[h, h] ≥ 0. Галеев Э. М. МГУ Лекции: Методы оптимизации
  • 36.
    Теорема (необходимые идостаточные условия II порядка) Необходимые условия экстремума: если ˆx ∈ locmin f и f ∈ D2(ˆx), то f (ˆx) = 0, f (ˆx)h, h ≥ 0 ∀ h ∈ X. Достаточные условия экстремума: если f (ˆx) = 0, ∃ α > 0 : f (ˆx)h, h ≥ α h 2 ∀ h ∈ X, то ˆx ∈ locmin f. ¡ По формуле Тейлора f(ˆx +h) = f(ˆx)+ f (ˆx), h + 1 2 f (ˆx)[h, h]+r(h), r(h) = o( h 2 ). Необходимость. Пусть ˆx ∈ locmin f. Тогда по аналогу т. Ферма f (ˆx) = 0, следовательно, по формуле Тейлора f(ˆx + λh) − f(ˆx) = λ2 2 f (ˆx)[h, h] + r(λh), r(λh) = o(|λ|2 ) при малых λ и фиксированном h. Поскольку ˆx ∈ locmin f, то f(ˆx + λh) − f(ˆx) ≥ 0. Поэтому λ2 2 f (ˆx)[h, h] + r(λh) ≥ 0. Разделим обе части последнего неравенства на λ2 и устремим λ к нулю. Поскольку r(λh) λ2 → 0, то f (ˆx)[h, h] ≥ 0. Галеев Э. М. МГУ Лекции: Методы оптимизации
  • 37.
    Теорема (необходимые идостаточные условия II порядка) Необходимые условия экстремума: если ˆx ∈ locmin f и f ∈ D2(ˆx), то f (ˆx) = 0, f (ˆx)h, h ≥ 0 ∀ h ∈ X. Достаточные условия экстремума: если f (ˆx) = 0, ∃ α > 0 : f (ˆx)h, h ≥ α h 2 ∀ h ∈ X, то ˆx ∈ locmin f. ¡ По формуле Тейлора f(ˆx +h) = f(ˆx)+ f (ˆx), h + 1 2 f (ˆx)[h, h]+r(h), r(h) = o( h 2 ). Необходимость. Пусть ˆx ∈ locmin f. Тогда по аналогу т. Ферма f (ˆx) = 0, следовательно, по формуле Тейлора f(ˆx + λh) − f(ˆx) = λ2 2 f (ˆx)[h, h] + r(λh), r(λh) = o(|λ|2 ) при малых λ и фиксированном h. Поскольку ˆx ∈ locmin f, то f(ˆx + λh) − f(ˆx) ≥ 0. Поэтому λ2 2 f (ˆx)[h, h] + r(λh) ≥ 0. Разделим обе части последнего неравенства на λ2 и устремим λ к нулю. Поскольку r(λh) λ2 → 0, то f (ˆx)[h, h] ≥ 0. Галеев Э. М. МГУ Лекции: Методы оптимизации
  • 38.
    Теорема (необходимые идостаточные условия II порядка) Необходимые условия экстремума: если ˆx ∈ locmin f и f ∈ D2(ˆx), то f (ˆx) = 0, f (ˆx)h, h ≥ 0 ∀ h ∈ X. Достаточные условия экстремума: если f (ˆx) = 0, ∃ α > 0 : f (ˆx)h, h ≥ α h 2 ∀ h ∈ X, то ˆx ∈ locmin f. ¡ По формуле Тейлора f(ˆx +h) = f(ˆx)+ f (ˆx), h + 1 2 f (ˆx)[h, h]+r(h), r(h) = o( h 2 ). Необходимость. Пусть ˆx ∈ locmin f. Тогда по аналогу т. Ферма f (ˆx) = 0, следовательно, по формуле Тейлора f(ˆx + λh) − f(ˆx) = λ2 2 f (ˆx)[h, h] + r(λh), r(λh) = o(|λ|2 ) при малых λ и фиксированном h. Поскольку ˆx ∈ locmin f, то f(ˆx + λh) − f(ˆx) ≥ 0. Поэтому λ2 2 f (ˆx)[h, h] + r(λh) ≥ 0. Разделим обе части последнего неравенства на λ2 и устремим λ к нулю. Поскольку r(λh) λ2 → 0, то f (ˆx)[h, h] ≥ 0. Галеев Э. М. МГУ Лекции: Методы оптимизации
  • 39.
    Теорема (необходимые идостаточные условия II порядка) Необходимые условия экстремума: если ˆx ∈ locmin f и f ∈ D2(ˆx), то f (ˆx) = 0, f (ˆx)h, h ≥ 0 ∀ h ∈ X. Достаточные условия экстремума: если f (ˆx) = 0, ∃ α > 0 : f (ˆx)h, h ≥ α h 2 ∀ h ∈ X, то ˆx ∈ locmin f. ¡ По формуле Тейлора f(ˆx +h) = f(ˆx)+ f (ˆx), h + 1 2 f (ˆx)[h, h]+r(h), r(h) = o( h 2 ). Необходимость. Пусть ˆx ∈ locmin f. Тогда по аналогу т. Ферма f (ˆx) = 0, следовательно, по формуле Тейлора f(ˆx + λh) − f(ˆx) = λ2 2 f (ˆx)[h, h] + r(λh), r(λh) = o(|λ|2 ) при малых λ и фиксированном h. Поскольку ˆx ∈ locmin f, то f(ˆx + λh) − f(ˆx) ≥ 0. Поэтому λ2 2 f (ˆx)[h, h] + r(λh) ≥ 0. Разделим обе части последнего неравенства на λ2 и устремим λ к нулю. Поскольку r(λh) λ2 → 0, то f (ˆx)[h, h] ≥ 0. Галеев Э. М. МГУ Лекции: Методы оптимизации
  • 40.
    Теорема (необходимые идостаточные условия II порядка) Необходимые условия экстремума: если ˆx ∈ locmin f и f ∈ D2(ˆx), то f (ˆx) = 0, f (ˆx)h, h ≥ 0 ∀ h ∈ X. Достаточные условия экстремума: если f (ˆx) = 0, ∃ α > 0 : f (ˆx)h, h ≥ α h 2 ∀ h ∈ X, то ˆx ∈ locmin f. ¡ По формуле Тейлора f(ˆx +h) = f(ˆx)+ f (ˆx), h + 1 2 f (ˆx)[h, h]+r(h), r(h) = o( h 2 ). Необходимость. Пусть ˆx ∈ locmin f. Тогда по аналогу т. Ферма f (ˆx) = 0, следовательно, по формуле Тейлора f(ˆx + λh) − f(ˆx) = λ2 2 f (ˆx)[h, h] + r(λh), r(λh) = o(|λ|2 ) при малых λ и фиксированном h. Поскольку ˆx ∈ locmin f, то f(ˆx + λh) − f(ˆx) ≥ 0. Поэтому λ2 2 f (ˆx)[h, h] + r(λh) ≥ 0. Разделим обе части последнего неравенства на λ2 и устремим λ к нулю. Поскольку r(λh) λ2 → 0, то f (ˆx)[h, h] ≥ 0. Галеев Э. М. МГУ Лекции: Методы оптимизации
  • 41.
    Теорема (необходимые идостаточные условия II порядка) Необходимые условия экстремума: если ˆx ∈ locmin f и f ∈ D2(ˆx), то f (ˆx) = 0, f (ˆx)h, h ≥ 0 ∀ h ∈ X. Достаточные условия экстремума: если f (ˆx) = 0, ∃ α > 0 : f (ˆx)h, h ≥ α h 2 ∀ h ∈ X, то ˆx ∈ locmin f. ¡ По формуле Тейлора f(ˆx +h) = f(ˆx)+ f (ˆx), h + 1 2 f (ˆx)[h, h]+r(h), r(h) = o( h 2 ). Необходимость. Пусть ˆx ∈ locmin f. Тогда по аналогу т. Ферма f (ˆx) = 0, следовательно, по формуле Тейлора f(ˆx + λh) − f(ˆx) = λ2 2 f (ˆx)[h, h] + r(λh), r(λh) = o(|λ|2 ) при малых λ и фиксированном h. Поскольку ˆx ∈ locmin f, то f(ˆx + λh) − f(ˆx) ≥ 0. Поэтому λ2 2 f (ˆx)[h, h] + r(λh) ≥ 0. Разделим обе части последнего неравенства на λ2 и устремим λ к нулю. Поскольку r(λh) λ2 → 0, то f (ˆx)[h, h] ≥ 0. Галеев Э. М. МГУ Лекции: Методы оптимизации
  • 42.
    Теорема (необходимые идостаточные условия II порядка) Необходимые условия экстремума: если ˆx ∈ locmin f и f ∈ D2(ˆx), то f (ˆx) = 0, f (ˆx)h, h ≥ 0 ∀ h ∈ X. Достаточные условия экстремума: если f (ˆx) = 0, ∃ α > 0 : f (ˆx)h, h ≥ α h 2 ∀ h ∈ X, то ˆx ∈ locmin f. ¡ По формуле Тейлора f(ˆx +h) = f(ˆx)+ f (ˆx), h + 1 2 f (ˆx)[h, h]+r(h), r(h) = o( h 2 ). Необходимость. Пусть ˆx ∈ locmin f. Тогда по аналогу т. Ферма f (ˆx) = 0, следовательно, по формуле Тейлора f(ˆx + λh) − f(ˆx) = λ2 2 f (ˆx)[h, h] + r(λh), r(λh) = o(|λ|2 ) при малых λ и фиксированном h. Поскольку ˆx ∈ locmin f, то f(ˆx + λh) − f(ˆx) ≥ 0. Поэтому λ2 2 f (ˆx)[h, h] + r(λh) ≥ 0. Разделим обе части последнего неравенства на λ2 и устремим λ к нулю. Поскольку r(λh) λ2 → 0, то f (ˆx)[h, h] ≥ 0. Галеев Э. М. МГУ Лекции: Методы оптимизации
  • 43.
    Теорема (необходимые идостаточные условия II порядка) Необходимые условия экстремума: если ˆx ∈ locmin f и f ∈ D2(ˆx), то f (ˆx) = 0, f (ˆx)h, h ≥ 0 ∀ h ∈ X. Достаточные условия экстремума: если f (ˆx) = 0, ∃ α > 0 : f (ˆx)h, h ≥ α h 2 ∀ h ∈ X, то ˆx ∈ locmin f. ¡ По формуле Тейлора f(ˆx +h) = f(ˆx)+ f (ˆx), h + 1 2 f (ˆx)[h, h]+r(h), r(h) = o( h 2 ). Необходимость. Пусть ˆx ∈ locmin f. Тогда по аналогу т. Ферма f (ˆx) = 0, следовательно, по формуле Тейлора f(ˆx + λh) − f(ˆx) = λ2 2 f (ˆx)[h, h] + r(λh), r(λh) = o(|λ|2 ) при малых λ и фиксированном h. Поскольку ˆx ∈ locmin f, то f(ˆx + λh) − f(ˆx) ≥ 0. Поэтому λ2 2 f (ˆx)[h, h] + r(λh) ≥ 0. Разделим обе части последнего неравенства на λ2 и устремим λ к нулю. Поскольку r(λh) λ2 → 0, то f (ˆx)[h, h] ≥ 0. Галеев Э. М. МГУ Лекции: Методы оптимизации
  • 44.
    Теорема (необходимые идостаточные условия II порядка) Необходимые условия экстремума: если ˆx ∈ locmin f и f ∈ D2(ˆx), то f (ˆx) = 0, f (ˆx)h, h ≥ 0 ∀ h ∈ X. Достаточные условия экстремума: если f (ˆx) = 0, ∃ α > 0 : f (ˆx)h, h ≥ α h 2 ∀ h ∈ X, то ˆx ∈ locmin f. ¡ По формуле Тейлора f(ˆx +h) = f(ˆx)+ f (ˆx), h + 1 2 f (ˆx)[h, h]+r(h), r(h) = o( h 2 ). Необходимость. Пусть ˆx ∈ locmin f. Тогда по аналогу т. Ферма f (ˆx) = 0, следовательно, по формуле Тейлора f(ˆx + λh) − f(ˆx) = λ2 2 f (ˆx)[h, h] + r(λh), r(λh) = o(|λ|2 ) при малых λ и фиксированном h. Поскольку ˆx ∈ locmin f, то f(ˆx + λh) − f(ˆx) ≥ 0. Поэтому λ2 2 f (ˆx)[h, h] + r(λh) ≥ 0. Разделим обе части последнего неравенства на λ2 и устремим λ к нулю. Поскольку r(λh) λ2 → 0, то f (ˆx)[h, h] ≥ 0. Галеев Э. М. МГУ Лекции: Методы оптимизации
  • 45.
    Теорема (необходимые идостаточные условия II порядка) Необходимые условия экстремума: если ˆx ∈ locmin f и f ∈ D2(ˆx), то f (ˆx) = 0, f (ˆx)h, h ≥ 0 ∀ h ∈ X. Достаточные условия экстремума: если f (ˆx) = 0, ∃ α > 0 : f (ˆx)h, h ≥ α h 2 ∀ h ∈ X, то ˆx ∈ locmin f. ¡ По формуле Тейлора f(ˆx +h) = f(ˆx)+ f (ˆx), h + 1 2 f (ˆx)[h, h]+r(h), r(h) = o( h 2 ). Необходимость. Пусть ˆx ∈ locmin f. Тогда по аналогу т. Ферма f (ˆx) = 0, следовательно, по формуле Тейлора f(ˆx + λh) − f(ˆx) = λ2 2 f (ˆx)[h, h] + r(λh), r(λh) = o(|λ|2 ) при малых λ и фиксированном h. Поскольку ˆx ∈ locmin f, то f(ˆx + λh) − f(ˆx) ≥ 0. Поэтому λ2 2 f (ˆx)[h, h] + r(λh) ≥ 0. Разделим обе части последнего неравенства на λ2 и устремим λ к нулю. Поскольку r(λh) λ2 → 0, то f (ˆx)[h, h] ≥ 0. Галеев Э. М. МГУ Лекции: Методы оптимизации
  • 46.
    Теорема (необходимые идостаточные условия II порядка) Необходимые условия экстремума: если ˆx ∈ locmin f и f ∈ D2(ˆx), то f (ˆx) = 0, f (ˆx)h, h ≥ 0 ∀ h ∈ X. Достаточные условия экстремума: если f (ˆx) = 0, ∃ α > 0 : f (ˆx)h, h ≥ α h 2 ∀ h ∈ X, то ˆx ∈ locmin f. ¡ По формуле Тейлора f(ˆx +h) = f(ˆx)+ f (ˆx), h + 1 2 f (ˆx)[h, h]+r(h), r(h) = o( h 2 ). Необходимость. Пусть ˆx ∈ locmin f. Тогда по аналогу т. Ферма f (ˆx) = 0, следовательно, по формуле Тейлора f(ˆx + λh) − f(ˆx) = λ2 2 f (ˆx)[h, h] + r(λh), r(λh) = o(|λ|2 ) при малых λ и фиксированном h. Поскольку ˆx ∈ locmin f, то f(ˆx + λh) − f(ˆx) ≥ 0. Поэтому λ2 2 f (ˆx)[h, h] + r(λh) ≥ 0. Разделим обе части последнего неравенства на λ2 и устремим λ к нулю. Поскольку r(λh) λ2 → 0, то f (ˆx)[h, h] ≥ 0. Галеев Э. М. МГУ Лекции: Методы оптимизации
  • 47.
    Теорема (необходимые идостаточные условия II порядка) Необходимые условия экстремума: если ˆx ∈ locmin f и f ∈ D2(ˆx), то f (ˆx) = 0, f (ˆx)h, h ≥ 0 ∀ h ∈ X. Достаточные условия экстремума: если f (ˆx) = 0, ∃ α > 0 : f (ˆx)h, h ≥ α h 2 ∀ h ∈ X, то ˆx ∈ locmin f. Достаточность. Так как f (ˆx) = 0, то по формуле Тейлора f(ˆx+h)−f(ˆx)= 1 2 f (ˆx)[h, h]+r(h) f (ˆx)h,h ≥α h 2 ≥ α 2 ||h||2 +r(h)≥0 при достаточно малых h, так как r(h) = o( h 2). Следовательно, ˆx ∈ locmin f. £ Галеев Э. М. МГУ Лекции: Методы оптимизации
  • 48.
    Теорема (необходимые идостаточные условия II порядка) Необходимые условия экстремума: если ˆx ∈ locmin f и f ∈ D2(ˆx), то f (ˆx) = 0, f (ˆx)h, h ≥ 0 ∀ h ∈ X. Достаточные условия экстремума: если f (ˆx) = 0, ∃ α > 0 : f (ˆx)h, h ≥ α h 2 ∀ h ∈ X, то ˆx ∈ locmin f. Достаточность. Так как f (ˆx) = 0, то по формуле Тейлора f(ˆx+h)−f(ˆx)= 1 2 f (ˆx)[h, h]+r(h) f (ˆx)h,h ≥α h 2 ≥ α 2 ||h||2 +r(h)≥0 при достаточно малых h, так как r(h) = o( h 2). Следовательно, ˆx ∈ locmin f. £ Галеев Э. М. МГУ Лекции: Методы оптимизации
  • 49.
    Теорема (необходимые идостаточные условия II порядка) Необходимые условия экстремума: если ˆx ∈ locmin f и f ∈ D2(ˆx), то f (ˆx) = 0, f (ˆx)h, h ≥ 0 ∀ h ∈ X. Достаточные условия экстремума: если f (ˆx) = 0, ∃ α > 0 : f (ˆx)h, h ≥ α h 2 ∀ h ∈ X, то ˆx ∈ locmin f. Достаточность. Так как f (ˆx) = 0, то по формуле Тейлора f(ˆx+h)−f(ˆx)= 1 2 f (ˆx)[h, h]+r(h) f (ˆx)h,h ≥α h 2 ≥ α 2 ||h||2 +r(h)≥0 при достаточно малых h, так как r(h) = o( h 2). Следовательно, ˆx ∈ locmin f. £ Галеев Э. М. МГУ Лекции: Методы оптимизации
  • 50.
    Теорема (необходимые идостаточные условия II порядка) Необходимые условия экстремума: если ˆx ∈ locmin f и f ∈ D2(ˆx), то f (ˆx) = 0, f (ˆx)h, h ≥ 0 ∀ h ∈ X. Достаточные условия экстремума: если f (ˆx) = 0, ∃ α > 0 : f (ˆx)h, h ≥ α h 2 ∀ h ∈ X, то ˆx ∈ locmin f. Достаточность. Так как f (ˆx) = 0, то по формуле Тейлора f(ˆx+h)−f(ˆx)= 1 2 f (ˆx)[h, h]+r(h) f (ˆx)h,h ≥α h 2 ≥ α 2 ||h||2 +r(h)≥0 при достаточно малых h, так как r(h) = o( h 2). Следовательно, ˆx ∈ locmin f. £ Галеев Э. М. МГУ Лекции: Методы оптимизации
  • 51.
    Теорема (необходимые идостаточные условия II порядка) Необходимые условия экстремума: если ˆx ∈ locmin f и f ∈ D2(ˆx), то f (ˆx) = 0, f (ˆx)h, h ≥ 0 ∀ h ∈ X. Достаточные условия экстремума: если f (ˆx) = 0, ∃ α > 0 : f (ˆx)h, h ≥ α h 2 ∀ h ∈ X, то ˆx ∈ locmin f. Достаточность. Так как f (ˆx) = 0, то по формуле Тейлора f(ˆx+h)−f(ˆx)= 1 2 f (ˆx)[h, h]+r(h) f (ˆx)h,h ≥α h 2 ≥ α 2 ||h||2 +r(h)≥0 при достаточно малых h, так как r(h) = o( h 2). Следовательно, ˆx ∈ locmin f. £ Галеев Э. М. МГУ Лекции: Методы оптимизации
  • 52.
    Теорема (необходимые идостаточные условия II порядка) Необходимые условия экстремума: если ˆx ∈ locmin f и f ∈ D2(ˆx), то f (ˆx) = 0, f (ˆx)h, h ≥ 0 ∀ h ∈ X. Достаточные условия экстремума: если f (ˆx) = 0, ∃ α > 0 : f (ˆx)h, h ≥ α h 2 ∀ h ∈ X, то ˆx ∈ locmin f. Достаточность. Так как f (ˆx) = 0, то по формуле Тейлора f(ˆx+h)−f(ˆx)= 1 2 f (ˆx)[h, h]+r(h) f (ˆx)h,h ≥α h 2 ≥ α 2 ||h||2 +r(h)≥0 при достаточно малых h, так как r(h) = o( h 2). Следовательно, ˆx ∈ locmin f. £ Галеев Э. М. МГУ Лекции: Методы оптимизации
  • 53.
    Теорема (необходимые идостаточные условия II порядка) Необходимые условия экстремума: если ˆx ∈ locmin f и f ∈ D2(ˆx), то f (ˆx) = 0, f (ˆx)h, h ≥ 0 ∀ h ∈ X. Достаточные условия экстремума: если f (ˆx) = 0, ∃ α > 0 : f (ˆx)h, h ≥ α h 2 ∀ h ∈ X, то ˆx ∈ locmin f. Достаточность. Так как f (ˆx) = 0, то по формуле Тейлора f(ˆx+h)−f(ˆx)= 1 2 f (ˆx)[h, h]+r(h) f (ˆx)h,h ≥α h 2 ≥ α 2 ||h||2 +r(h)≥0 при достаточно малых h, так как r(h) = o( h 2). Следовательно, ˆx ∈ locmin f. £ Галеев Э. М. МГУ Лекции: Методы оптимизации
  • 54.
    Теорема (необходимые идостаточные условия II порядка) Необходимые условия экстремума: если ˆx ∈ locmin f и f ∈ D2(ˆx), то f (ˆx) = 0, f (ˆx)h, h ≥ 0 ∀ h ∈ X. Достаточные условия экстремума: если f (ˆx) = 0, ∃ α > 0 : f (ˆx)h, h ≥ α h 2 ∀ h ∈ X, то ˆx ∈ locmin f. Достаточность. Так как f (ˆx) = 0, то по формуле Тейлора f(ˆx+h)−f(ˆx)= 1 2 f (ˆx)[h, h]+r(h) f (ˆx)h,h ≥α h 2 ≥ α 2 ||h||2 +r(h)≥0 при достаточно малых h, так как r(h) = o( h 2). Следовательно, ˆx ∈ locmin f. £ Галеев Э. М. МГУ Лекции: Методы оптимизации
  • 55.
    Пример 1. Вбесконечномерных пространствах условие положительной определенности отображения не гарантирует строгой положительности отображения f : l2 → R, x = (x1, ..., xn, ...), x l2 = +∞ 1 x2 n 1 2 , f(x)= ∞ n=1 x2 n n . f (x)[h] = 2 ∞ n=1 xnhn n ; f (0)[h, h] = 2 ∞ n=1 h2 n n >0 ∀ h = 0 ⇒ f >0 (положительно определена). Но вместе с тем f не является строго положительной. Действительно, неравенство f (0)[h, h] ≥ α h 2 ∀ h не может выполняться ни для какой константы α > 0, поскольку на {hn} = en, n = 1, 2, . . . (en — n-й базисный вектор пространства l2), f (0)[hn, hn] = 2 n = 2 n hn 2 ≥ α hn 2. Галеев Э. М. МГУ Лекции: Методы оптимизации
  • 56.
    Пример 1. Вбесконечномерных пространствах условие положительной определенности отображения не гарантирует строгой положительности отображения f : l2 → R, x = (x1, ..., xn, ...), x l2 = +∞ 1 x2 n 1 2 , f(x)= ∞ n=1 x2 n n . f (x)[h] = 2 ∞ n=1 xnhn n ; f (0)[h, h] = 2 ∞ n=1 h2 n n >0 ∀ h = 0 ⇒ f >0 (положительно определена). Но вместе с тем f не является строго положительной. Действительно, неравенство f (0)[h, h] ≥ α h 2 ∀ h не может выполняться ни для какой константы α > 0, поскольку на {hn} = en, n = 1, 2, . . . (en — n-й базисный вектор пространства l2), f (0)[hn, hn] = 2 n = 2 n hn 2 ≥ α hn 2. Галеев Э. М. МГУ Лекции: Методы оптимизации
  • 57.
    Пример 1. Вбесконечномерных пространствах условие положительной определенности отображения не гарантирует строгой положительности отображения f : l2 → R, x = (x1, ..., xn, ...), x l2 = +∞ 1 x2 n 1 2 , f(x)= ∞ n=1 x2 n n . f (x)[h] = 2 ∞ n=1 xnhn n ; f (0)[h, h] = 2 ∞ n=1 h2 n n >0 ∀ h = 0 ⇒ f >0 (положительно определена). Но вместе с тем f не является строго положительной. Действительно, неравенство f (0)[h, h] ≥ α h 2 ∀ h не может выполняться ни для какой константы α > 0, поскольку на {hn} = en, n = 1, 2, . . . (en — n-й базисный вектор пространства l2), f (0)[hn, hn] = 2 n = 2 n hn 2 ≥ α hn 2. Галеев Э. М. МГУ Лекции: Методы оптимизации
  • 58.
    Пример 1. Вбесконечномерных пространствах условие положительной определенности отображения не гарантирует строгой положительности отображения f : l2 → R, x = (x1, ..., xn, ...), x l2 = +∞ 1 x2 n 1 2 , f(x)= ∞ n=1 x2 n n . f (x)[h] = 2 ∞ n=1 xnhn n ; f (0)[h, h] = 2 ∞ n=1 h2 n n >0 ∀ h = 0 ⇒ f >0 (положительно определена). Но вместе с тем f не является строго положительной. Действительно, неравенство f (0)[h, h] ≥ α h 2 ∀ h не может выполняться ни для какой константы α > 0, поскольку на {hn} = en, n = 1, 2, . . . (en — n-й базисный вектор пространства l2), f (0)[hn, hn] = 2 n = 2 n hn 2 ≥ α hn 2. Галеев Э. М. МГУ Лекции: Методы оптимизации
  • 59.
    Пример 1. Вбесконечномерных пространствах условие положительной определенности отображения не гарантирует строгой положительности отображения f : l2 → R, x = (x1, ..., xn, ...), x l2 = +∞ 1 x2 n 1 2 , f(x)= ∞ n=1 x2 n n . f (x)[h] = 2 ∞ n=1 xnhn n ; f (0)[h, h] = 2 ∞ n=1 h2 n n >0 ∀ h = 0 ⇒ f >0 (положительно определена). Но вместе с тем f не является строго положительной. Действительно, неравенство f (0)[h, h] ≥ α h 2 ∀ h не может выполняться ни для какой константы α > 0, поскольку на {hn} = en, n = 1, 2, . . . (en — n-й базисный вектор пространства l2), f (0)[hn, hn] = 2 n = 2 n hn 2 ≥ α hn 2. Галеев Э. М. МГУ Лекции: Методы оптимизации
  • 60.
    Пример 1. Вбесконечномерных пространствах условие положительной определенности отображения не гарантирует строгой положительности отображения f : l2 → R, x = (x1, ..., xn, ...), x l2 = +∞ 1 x2 n 1 2 , f(x)= ∞ n=1 x2 n n . f (x)[h] = 2 ∞ n=1 xnhn n ; f (0)[h, h] = 2 ∞ n=1 h2 n n >0 ∀ h = 0 ⇒ f >0 (положительно определена). Но вместе с тем f не является строго положительной. Действительно, неравенство f (0)[h, h] ≥ α h 2 ∀ h не может выполняться ни для какой константы α > 0, поскольку на {hn} = en, n = 1, 2, . . . (en — n-й базисный вектор пространства l2), f (0)[hn, hn] = 2 n = 2 n hn 2 ≥ α hn 2. Галеев Э. М. МГУ Лекции: Методы оптимизации
  • 61.
    Пример 1. Вбесконечномерных пространствах условие положительной определенности отображения не гарантирует строгой положительности отображения f : l2 → R, x = (x1, ..., xn, ...), x l2 = +∞ 1 x2 n 1 2 , f(x)= ∞ n=1 x2 n n . f (x)[h] = 2 ∞ n=1 xnhn n ; f (0)[h, h] = 2 ∞ n=1 h2 n n >0 ∀ h = 0 ⇒ f >0 (положительно определена). Но вместе с тем f не является строго положительной. Действительно, неравенство f (0)[h, h] ≥ α h 2 ∀ h не может выполняться ни для какой константы α > 0, поскольку на {hn} = en, n = 1, 2, . . . (en — n-й базисный вектор пространства l2), f (0)[hn, hn] = 2 n = 2 n hn 2 ≥ α hn 2. Галеев Э. М. МГУ Лекции: Методы оптимизации
  • 62.
    Пример 1. Вбесконечномерных пространствах условие положительной определенности отображения не гарантирует строгой положительности отображения f : l2 → R, x = (x1, ..., xn, ...), x l2 = +∞ 1 x2 n 1 2 , f(x)= ∞ n=1 x2 n n . f (x)[h] = 2 ∞ n=1 xnhn n ; f (0)[h, h] = 2 ∞ n=1 h2 n n >0 ∀ h = 0 ⇒ f >0 (положительно определена). Но вместе с тем f не является строго положительной. Действительно, неравенство f (0)[h, h] ≥ α h 2 ∀ h не может выполняться ни для какой константы α > 0, поскольку на {hn} = en, n = 1, 2, . . . (en — n-й базисный вектор пространства l2), f (0)[hn, hn] = 2 n = 2 n hn 2 ≥ α hn 2. Галеев Э. М. МГУ Лекции: Методы оптимизации
  • 63.
    Пример 1. Вбесконечномерных пространствах условие положительной определенности отображения не гарантирует строгой положительности отображения f : l2 → R, x = (x1, ..., xn, ...), x l2 = +∞ 1 x2 n 1 2 , f(x)= ∞ n=1 x2 n n . f (x)[h] = 2 ∞ n=1 xnhn n ; f (0)[h, h] = 2 ∞ n=1 h2 n n >0 ∀ h = 0 ⇒ f >0 (положительно определена). Но вместе с тем f не является строго положительной. Действительно, неравенство f (0)[h, h] ≥ α h 2 ∀ h не может выполняться ни для какой константы α > 0, поскольку на {hn} = en, n = 1, 2, . . . (en — n-й базисный вектор пространства l2), f (0)[hn, hn] = 2 n = 2 n hn 2 ≥ α hn 2. Галеев Э. М. МГУ Лекции: Методы оптимизации
  • 64.
    Пример 1. Вбесконечномерных пространствах условие положительной определенности отображения не гарантирует строгой положительности отображения f : l2 → R, x = (x1, ..., xn, ...), x l2 = +∞ 1 x2 n 1 2 , f(x)= ∞ n=1 x2 n n . f (x)[h] = 2 ∞ n=1 xnhn n ; f (0)[h, h] = 2 ∞ n=1 h2 n n >0 ∀ h = 0 ⇒ f >0 (положительно определена). Но вместе с тем f не является строго положительной. Действительно, неравенство f (0)[h, h] ≥ α h 2 ∀ h не может выполняться ни для какой константы α > 0, поскольку на {hn} = en, n = 1, 2, . . . (en — n-й базисный вектор пространства l2), f (0)[hn, hn] = 2 n = 2 n hn 2 ≥ α hn 2. Галеев Э. М. МГУ Лекции: Методы оптимизации
  • 65.
    Пример 1. Вбесконечномерных пространствах условие положительной определенности отображения не гарантирует строгой положительности отображения f : l2 → R, x = (x1, ..., xn, ...), x l2 = +∞ 1 x2 n 1 2 , f(x)= ∞ n=1 x2 n n . f (x)[h] = 2 ∞ n=1 xnhn n ; f (0)[h, h] = 2 ∞ n=1 h2 n n >0 ∀ h = 0 ⇒ f >0 (положительно определена). Но вместе с тем f не является строго положительной. Действительно, неравенство f (0)[h, h] ≥ α h 2 ∀ h не может выполняться ни для какой константы α > 0, поскольку на {hn} = en, n = 1, 2, . . . (en — n-й базисный вектор пространства l2), f (0)[hn, hn] = 2 n = 2 n hn 2 ≥ α hn 2. Галеев Э. М. МГУ Лекции: Методы оптимизации
  • 66.
    Пример 1. Вбесконечномерных пространствах условие положительной определенности отображения не гарантирует строгой положительности отображения f : l2 → R, x = (x1, ..., xn, ...), x l2 = +∞ 1 x2 n 1 2 , f(x)= ∞ n=1 x2 n n . f (x)[h] = 2 ∞ n=1 xnhn n ; f (0)[h, h] = 2 ∞ n=1 h2 n n >0 ∀ h = 0 ⇒ f >0 (положительно определена). Но вместе с тем f не является строго положительной. Действительно, неравенство f (0)[h, h] ≥ α h 2 ∀ h не может выполняться ни для какой константы α > 0, поскольку на {hn} = en, n = 1, 2, . . . (en — n-й базисный вектор пространства l2), f (0)[hn, hn] = 2 n = 2 n hn 2 ≥ α hn 2. Галеев Э. М. МГУ Лекции: Методы оптимизации
  • 67.
    Пример 1. Вбесконечномерных пространствах условие положительной определенности отображения не гарантирует строгой положительности отображения f : l2 → R, x = (x1, ..., xn, ...), x l2 = +∞ 1 x2 n 1 2 , f(x)= ∞ n=1 x2 n n . f (x)[h] = 2 ∞ n=1 xnhn n ; f (0)[h, h] = 2 ∞ n=1 h2 n n >0 ∀ h = 0 ⇒ f >0 (положительно определена). Но вместе с тем f не является строго положительной. Действительно, неравенство f (0)[h, h] ≥ α h 2 ∀ h не может выполняться ни для какой константы α > 0, поскольку на {hn} = en, n = 1, 2, . . . (en — n-й базисный вектор пространства l2), f (0)[hn, hn] = 2 n = 2 n hn 2 ≥ α hn 2. Галеев Э. М. МГУ Лекции: Методы оптимизации
  • 68.
    Пример 1. Вбесконечномерных пространствах условие положительной определенности отображения не гарантирует строгой положительности отображения f : l2 → R, x = (x1, ..., xn, ...), x l2 = +∞ 1 x2 n 1 2 , f(x)= ∞ n=1 x2 n n . f (x)[h] = 2 ∞ n=1 xnhn n ; f (0)[h, h] = 2 ∞ n=1 h2 n n >0 ∀ h = 0 ⇒ f >0 (положительно определена). Но вместе с тем f не является строго положительной. Действительно, неравенство f (0)[h, h] ≥ α h 2 ∀ h не может выполняться ни для какой константы α > 0, поскольку на {hn} = en, n = 1, 2, . . . (en — n-й базисный вектор пространства l2), f (0)[hn, hn] = 2 n = 2 n hn 2 ≥ α hn 2. Галеев Э. М. МГУ Лекции: Методы оптимизации
  • 69.
    Пример 1. Вбесконечномерных пространствах условие положительной определенности отображения не гарантирует строгой положительности отображения f : l2 → R, x = (x1, ..., xn, ...), x l2 = +∞ 1 x2 n 1 2 , f(x)= ∞ n=1 x2 n n . f (x)[h] = 2 ∞ n=1 xnhn n ; f (0)[h, h] = 2 ∞ n=1 h2 n n >0 ∀ h = 0 ⇒ f >0 (положительно определена). Но вместе с тем f не является строго положительной. Действительно, неравенство f (0)[h, h] ≥ α h 2 ∀ h не может выполняться ни для какой константы α > 0, поскольку на {hn} = en, n = 1, 2, . . . (en — n-й базисный вектор пространства l2), f (0)[hn, hn] = 2 n = 2 n hn 2 ≥ α hn 2. Галеев Э. М. МГУ Лекции: Методы оптимизации
  • 70.
    Пример 1. Вбесконечномерных пространствах условие положительной определенности отображения не гарантирует строгой положительности отображения f : l2 → R, x = (x1, ..., xn, ...), x l2 = +∞ 1 x2 n 1 2 , f(x)= ∞ n=1 x2 n n . f (x)[h] = 2 ∞ n=1 xnhn n ; f (0)[h, h] = 2 ∞ n=1 h2 n n >0 ∀ h = 0 ⇒ f >0 (положительно определена). Но вместе с тем f не является строго положительной. Действительно, неравенство f (0)[h, h] ≥ α h 2 ∀ h не может выполняться ни для какой константы α > 0, поскольку на {hn} = en, n = 1, 2, . . . (en — n-й базисный вектор пространства l2), f (0)[hn, hn] = 2 n = 2 n hn 2 ≥ α hn 2. Галеев Э. М. МГУ Лекции: Методы оптимизации
  • 71.
    Пример 1. Вбесконечномерных пространствах условие положительной определенности отображения не гарантирует строгой положительности отображения f : l2 → R, x = (x1, ..., xn, ...), x l2 = +∞ 1 x2 n 1 2 , f(x)= ∞ n=1 x2 n n . f (x)[h] = 2 ∞ n=1 xnhn n ; f (0)[h, h] = 2 ∞ n=1 h2 n n >0 ∀ h = 0 ⇒ f >0 (положительно определена). Но вместе с тем f не является строго положительной. Действительно, неравенство f (0)[h, h] ≥ α h 2 ∀ h не может выполняться ни для какой константы α > 0, поскольку на {hn} = en, n = 1, 2, . . . (en — n-й базисный вектор пространства l2), f (0)[hn, hn] = 2 n = 2 n hn 2 ≥ α hn 2. Галеев Э. М. МГУ Лекции: Методы оптимизации
  • 72.
    Пример 2. Вбесконечномерных пространствах условие f (ˆx) = 0 и f (ˆx)[h, h] > 0 ∀ h = 0 не гарантируют локального минимума отображения. f : l2 → R, f(x) = ∞ n=1 x2 n n3 − x4 n → min . f (ˆx)[h] = ∞ n=1 2ˆxnhn n3 − 4ˆx3 n hn ⇒ f (0) = 0 ⇒ ˆx = 0 — стационарная точка. f (ˆx)[h, h] = ∞ n=1 2h2 n n3 − 12ˆx2 n h2 n ⇒ f (0)[h, h] = 2 ∞ n=1 h2 n n3 > 0 ∀ h = 0 ⇒ f (0) положительно определенный оператор, но не строго положительный. На последовательности xn = en n (xn → ˆx = 0 при n → +∞), f(xn) = 1 n5 − 1 n4 < 0 = f(0) ⇒ ˆx = 0 ∈ locmin f. Галеев Э. М. МГУ Лекции: Методы оптимизации
  • 73.
    Пример 2. Вбесконечномерных пространствах условие f (ˆx) = 0 и f (ˆx)[h, h] > 0 ∀ h = 0 не гарантируют локального минимума отображения. f : l2 → R, f(x) = ∞ n=1 x2 n n3 − x4 n → min . f (ˆx)[h] = ∞ n=1 2ˆxnhn n3 − 4ˆx3 n hn ⇒ f (0) = 0 ⇒ ˆx = 0 — стационарная точка. f (ˆx)[h, h] = ∞ n=1 2h2 n n3 − 12ˆx2 n h2 n ⇒ f (0)[h, h] = 2 ∞ n=1 h2 n n3 > 0 ∀ h = 0 ⇒ f (0) положительно определенный оператор, но не строго положительный. На последовательности xn = en n (xn → ˆx = 0 при n → +∞), f(xn) = 1 n5 − 1 n4 < 0 = f(0) ⇒ ˆx = 0 ∈ locmin f. Галеев Э. М. МГУ Лекции: Методы оптимизации
  • 74.
    Пример 2. Вбесконечномерных пространствах условие f (ˆx) = 0 и f (ˆx)[h, h] > 0 ∀ h = 0 не гарантируют локального минимума отображения. f : l2 → R, f(x) = ∞ n=1 x2 n n3 − x4 n → min . f (ˆx)[h] = ∞ n=1 2ˆxnhn n3 − 4ˆx3 n hn ⇒ f (0) = 0 ⇒ ˆx = 0 — стационарная точка. f (ˆx)[h, h] = ∞ n=1 2h2 n n3 − 12ˆx2 n h2 n ⇒ f (0)[h, h] = 2 ∞ n=1 h2 n n3 > 0 ∀ h = 0 ⇒ f (0) положительно определенный оператор, но не строго положительный. На последовательности xn = en n (xn → ˆx = 0 при n → +∞), f(xn) = 1 n5 − 1 n4 < 0 = f(0) ⇒ ˆx = 0 ∈ locmin f. Галеев Э. М. МГУ Лекции: Методы оптимизации
  • 75.
    Пример 2. Вбесконечномерных пространствах условие f (ˆx) = 0 и f (ˆx)[h, h] > 0 ∀ h = 0 не гарантируют локального минимума отображения. f : l2 → R, f(x) = ∞ n=1 x2 n n3 − x4 n → min . f (ˆx)[h] = ∞ n=1 2ˆxnhn n3 − 4ˆx3 n hn ⇒ f (0) = 0 ⇒ ˆx = 0 — стационарная точка. f (ˆx)[h, h] = ∞ n=1 2h2 n n3 − 12ˆx2 n h2 n ⇒ f (0)[h, h] = 2 ∞ n=1 h2 n n3 > 0 ∀ h = 0 ⇒ f (0) положительно определенный оператор, но не строго положительный. На последовательности xn = en n (xn → ˆx = 0 при n → +∞), f(xn) = 1 n5 − 1 n4 < 0 = f(0) ⇒ ˆx = 0 ∈ locmin f. Галеев Э. М. МГУ Лекции: Методы оптимизации
  • 76.
    Пример 2. Вбесконечномерных пространствах условие f (ˆx) = 0 и f (ˆx)[h, h] > 0 ∀ h = 0 не гарантируют локального минимума отображения. f : l2 → R, f(x) = ∞ n=1 x2 n n3 − x4 n → min . f (ˆx)[h] = ∞ n=1 2ˆxnhn n3 − 4ˆx3 n hn ⇒ f (0) = 0 ⇒ ˆx = 0 — стационарная точка. f (ˆx)[h, h] = ∞ n=1 2h2 n n3 − 12ˆx2 n h2 n ⇒ f (0)[h, h] = 2 ∞ n=1 h2 n n3 > 0 ∀ h = 0 ⇒ f (0) положительно определенный оператор, но не строго положительный. На последовательности xn = en n (xn → ˆx = 0 при n → +∞), f(xn) = 1 n5 − 1 n4 < 0 = f(0) ⇒ ˆx = 0 ∈ locmin f. Галеев Э. М. МГУ Лекции: Методы оптимизации
  • 77.
    Пример 2. Вбесконечномерных пространствах условие f (ˆx) = 0 и f (ˆx)[h, h] > 0 ∀ h = 0 не гарантируют локального минимума отображения. f : l2 → R, f(x) = ∞ n=1 x2 n n3 − x4 n → min . f (ˆx)[h] = ∞ n=1 2ˆxnhn n3 − 4ˆx3 n hn ⇒ f (0) = 0 ⇒ ˆx = 0 — стационарная точка. f (ˆx)[h, h] = ∞ n=1 2h2 n n3 − 12ˆx2 n h2 n ⇒ f (0)[h, h] = 2 ∞ n=1 h2 n n3 > 0 ∀ h = 0 ⇒ f (0) положительно определенный оператор, но не строго положительный. На последовательности xn = en n (xn → ˆx = 0 при n → +∞), f(xn) = 1 n5 − 1 n4 < 0 = f(0) ⇒ ˆx = 0 ∈ locmin f. Галеев Э. М. МГУ Лекции: Методы оптимизации
  • 78.
    Пример 2. Вбесконечномерных пространствах условие f (ˆx) = 0 и f (ˆx)[h, h] > 0 ∀ h = 0 не гарантируют локального минимума отображения. f : l2 → R, f(x) = ∞ n=1 x2 n n3 − x4 n → min . f (ˆx)[h] = ∞ n=1 2ˆxnhn n3 − 4ˆx3 n hn ⇒ f (0) = 0 ⇒ ˆx = 0 — стационарная точка. f (ˆx)[h, h] = ∞ n=1 2h2 n n3 − 12ˆx2 n h2 n ⇒ f (0)[h, h] = 2 ∞ n=1 h2 n n3 > 0 ∀ h = 0 ⇒ f (0) положительно определенный оператор, но не строго положительный. На последовательности xn = en n (xn → ˆx = 0 при n → +∞), f(xn) = 1 n5 − 1 n4 < 0 = f(0) ⇒ ˆx = 0 ∈ locmin f. Галеев Э. М. МГУ Лекции: Методы оптимизации
  • 79.
    Пример 2. Вбесконечномерных пространствах условие f (ˆx) = 0 и f (ˆx)[h, h] > 0 ∀ h = 0 не гарантируют локального минимума отображения. f : l2 → R, f(x) = ∞ n=1 x2 n n3 − x4 n → min . f (ˆx)[h] = ∞ n=1 2ˆxnhn n3 − 4ˆx3 n hn ⇒ f (0) = 0 ⇒ ˆx = 0 — стационарная точка. f (ˆx)[h, h] = ∞ n=1 2h2 n n3 − 12ˆx2 n h2 n ⇒ f (0)[h, h] = 2 ∞ n=1 h2 n n3 > 0 ∀ h = 0 ⇒ f (0) положительно определенный оператор, но не строго положительный. На последовательности xn = en n (xn → ˆx = 0 при n → +∞), f(xn) = 1 n5 − 1 n4 < 0 = f(0) ⇒ ˆx = 0 ∈ locmin f. Галеев Э. М. МГУ Лекции: Методы оптимизации
  • 80.
    Пример 2. Вбесконечномерных пространствах условие f (ˆx) = 0 и f (ˆx)[h, h] > 0 ∀ h = 0 не гарантируют локального минимума отображения. f : l2 → R, f(x) = ∞ n=1 x2 n n3 − x4 n → min . f (ˆx)[h] = ∞ n=1 2ˆxnhn n3 − 4ˆx3 n hn ⇒ f (0) = 0 ⇒ ˆx = 0 — стационарная точка. f (ˆx)[h, h] = ∞ n=1 2h2 n n3 − 12ˆx2 n h2 n ⇒ f (0)[h, h] = 2 ∞ n=1 h2 n n3 > 0 ∀ h = 0 ⇒ f (0) положительно определенный оператор, но не строго положительный. На последовательности xn = en n (xn → ˆx = 0 при n → +∞), f(xn) = 1 n5 − 1 n4 < 0 = f(0) ⇒ ˆx = 0 ∈ locmin f. Галеев Э. М. МГУ Лекции: Методы оптимизации
  • 81.
    Пример 2. Вбесконечномерных пространствах условие f (ˆx) = 0 и f (ˆx)[h, h] > 0 ∀ h = 0 не гарантируют локального минимума отображения. f : l2 → R, f(x) = ∞ n=1 x2 n n3 − x4 n → min . f (ˆx)[h] = ∞ n=1 2ˆxnhn n3 − 4ˆx3 n hn ⇒ f (0) = 0 ⇒ ˆx = 0 — стационарная точка. f (ˆx)[h, h] = ∞ n=1 2h2 n n3 − 12ˆx2 n h2 n ⇒ f (0)[h, h] = 2 ∞ n=1 h2 n n3 > 0 ∀ h = 0 ⇒ f (0) положительно определенный оператор, но не строго положительный. На последовательности xn = en n (xn → ˆx = 0 при n → +∞), f(xn) = 1 n5 − 1 n4 < 0 = f(0) ⇒ ˆx = 0 ∈ locmin f. Галеев Э. М. МГУ Лекции: Методы оптимизации
  • 82.
    Пример 2. Вбесконечномерных пространствах условие f (ˆx) = 0 и f (ˆx)[h, h] > 0 ∀ h = 0 не гарантируют локального минимума отображения. f : l2 → R, f(x) = ∞ n=1 x2 n n3 − x4 n → min . f (ˆx)[h] = ∞ n=1 2ˆxnhn n3 − 4ˆx3 n hn ⇒ f (0) = 0 ⇒ ˆx = 0 — стационарная точка. f (ˆx)[h, h] = ∞ n=1 2h2 n n3 − 12ˆx2 n h2 n ⇒ f (0)[h, h] = 2 ∞ n=1 h2 n n3 > 0 ∀ h = 0 ⇒ f (0) положительно определенный оператор, но не строго положительный. На последовательности xn = en n (xn → ˆx = 0 при n → +∞), f(xn) = 1 n5 − 1 n4 < 0 = f(0) ⇒ ˆx = 0 ∈ locmin f. Галеев Э. М. МГУ Лекции: Методы оптимизации
  • 83.
    Пример 2. Вбесконечномерных пространствах условие f (ˆx) = 0 и f (ˆx)[h, h] > 0 ∀ h = 0 не гарантируют локального минимума отображения. f : l2 → R, f(x) = ∞ n=1 x2 n n3 − x4 n → min . f (ˆx)[h] = ∞ n=1 2ˆxnhn n3 − 4ˆx3 n hn ⇒ f (0) = 0 ⇒ ˆx = 0 — стационарная точка. f (ˆx)[h, h] = ∞ n=1 2h2 n n3 − 12ˆx2 n h2 n ⇒ f (0)[h, h] = 2 ∞ n=1 h2 n n3 > 0 ∀ h = 0 ⇒ f (0) положительно определенный оператор, но не строго положительный. На последовательности xn = en n (xn → ˆx = 0 при n → +∞), f(xn) = 1 n5 − 1 n4 < 0 = f(0) ⇒ ˆx = 0 ∈ locmin f. Галеев Э. М. МГУ Лекции: Методы оптимизации
  • 84.
    Пример 2. Вбесконечномерных пространствах условие f (ˆx) = 0 и f (ˆx)[h, h] > 0 ∀ h = 0 не гарантируют локального минимума отображения. f : l2 → R, f(x) = ∞ n=1 x2 n n3 − x4 n → min . f (ˆx)[h] = ∞ n=1 2ˆxnhn n3 − 4ˆx3 n hn ⇒ f (0) = 0 ⇒ ˆx = 0 — стационарная точка. f (ˆx)[h, h] = ∞ n=1 2h2 n n3 − 12ˆx2 n h2 n ⇒ f (0)[h, h] = 2 ∞ n=1 h2 n n3 > 0 ∀ h = 0 ⇒ f (0) положительно определенный оператор, но не строго положительный. На последовательности xn = en n (xn → ˆx = 0 при n → +∞), f(xn) = 1 n5 − 1 n4 < 0 = f(0) ⇒ ˆx = 0 ∈ locmin f. Галеев Э. М. МГУ Лекции: Методы оптимизации
  • 85.
    Пример 2. Вбесконечномерных пространствах условие f (ˆx) = 0 и f (ˆx)[h, h] > 0 ∀ h = 0 не гарантируют локального минимума отображения. f : l2 → R, f(x) = ∞ n=1 x2 n n3 − x4 n → min . f (ˆx)[h] = ∞ n=1 2ˆxnhn n3 − 4ˆx3 n hn ⇒ f (0) = 0 ⇒ ˆx = 0 — стационарная точка. f (ˆx)[h, h] = ∞ n=1 2h2 n n3 − 12ˆx2 n h2 n ⇒ f (0)[h, h] = 2 ∞ n=1 h2 n n3 > 0 ∀ h = 0 ⇒ f (0) положительно определенный оператор, но не строго положительный. На последовательности xn = en n (xn → ˆx = 0 при n → +∞), f(xn) = 1 n5 − 1 n4 < 0 = f(0) ⇒ ˆx = 0 ∈ locmin f. Галеев Э. М. МГУ Лекции: Методы оптимизации
  • 86.
    Пример 2. Вбесконечномерных пространствах условие f (ˆx) = 0 и f (ˆx)[h, h] > 0 ∀ h = 0 не гарантируют локального минимума отображения. f : l2 → R, f(x) = ∞ n=1 x2 n n3 − x4 n → min . f (ˆx)[h] = ∞ n=1 2ˆxnhn n3 − 4ˆx3 n hn ⇒ f (0) = 0 ⇒ ˆx = 0 — стационарная точка. f (ˆx)[h, h] = ∞ n=1 2h2 n n3 − 12ˆx2 n h2 n ⇒ f (0)[h, h] = 2 ∞ n=1 h2 n n3 > 0 ∀ h = 0 ⇒ f (0) положительно определенный оператор, но не строго положительный. На последовательности xn = en n (xn → ˆx = 0 при n → +∞), f(xn) = 1 n5 − 1 n4 < 0 = f(0) ⇒ ˆx = 0 ∈ locmin f. Галеев Э. М. МГУ Лекции: Методы оптимизации
  • 87.
    Пример 2. Вбесконечномерных пространствах условие f (ˆx) = 0 и f (ˆx)[h, h] > 0 ∀ h = 0 не гарантируют локального минимума отображения. f : l2 → R, f(x) = ∞ n=1 x2 n n3 − x4 n → min . f (ˆx)[h] = ∞ n=1 2ˆxnhn n3 − 4ˆx3 n hn ⇒ f (0) = 0 ⇒ ˆx = 0 — стационарная точка. f (ˆx)[h, h] = ∞ n=1 2h2 n n3 − 12ˆx2 n h2 n ⇒ f (0)[h, h] = 2 ∞ n=1 h2 n n3 > 0 ∀ h = 0 ⇒ f (0) положительно определенный оператор, но не строго положительный. На последовательности xn = en n (xn → ˆx = 0 при n → +∞), f(xn) = 1 n5 − 1 n4 < 0 = f(0) ⇒ ˆx = 0 ∈ locmin f. Галеев Э. М. МГУ Лекции: Методы оптимизации