СТАТИСТИЧНІ МЕТОДИ СТВОРЕННЯ
МАТЕМАТИЧНИХ МОДЕЛЕЙ
 Основи регресійного аналізу
 Основи кореляційного аналізу
 Лінійна і квадратична
інтерполяція
 Інтерполяційні поліноми
Ньютона і Лагранжа
 Метод найменших квадратів
 Вступ до планування експерименту
 Повний факторний експеримент
Лекція 4 - 5
ІДЕНТИФІКАЦІЯ ТА МОДЕЛЮВАННЯ
ТЕХНОЛОГІЧНИХ ОБ’ЄКТІВ

Словник термінів
 Апроксимація
 Інтерполяція
 Екстраполяція
 МНК
 Матриця
 ПФЕ
 Дрібна репліка
 Знаходження даних таблиці між її вузлами
за допомогою інтерполяційних поліномів
або рівнянь.
 Знаходження даних таблиці між її вузлами.
 Знаходження даних таблиці поза її межами.
 Метод пошуку коефіцієнтів поліному за
умовою мінімізації суми квадратів
відхилень даних отриманих за допомогою
рівняння від табличних даних.
 Упорядкована система (m x n) чисел, які
знаходяться в прямокутній таблиці, що має
m рядків та n стовпців.
 Повний факторний експеримент, що
включає всі можливі комбінації
досліджуваних факторів при обраному
числі рівнів (2-х, 3-x, 4-х рівнів).
 Зменшення дослідів у ПФЕ у 2, 4, 8 і
більше разів при визначенні лінійної
регресії без втрати ефективності
експерименту.

Методи обробки експериментальних
даних
Апроксимація
табличних даних
Методи
інтерполяції (вар. б)
Метод найменших
квадратів (вар. а)

Основи регресійного аналізу (1)
Багаторазові виміри динамічної в'язкості чистого розчину цукру
при температурі 45 оС і вмісту цукру 45 %, 10-3, Пас
№ виміру Значення yi № виміру Значення yi
1 6,665 7 6,615
2 6,755 8 6,395
3 6,565 9 6,485
4 6,585 10 6,675
5 6,525 11 6,635
6 6,525 12 6,555
Діапазон можливих змін значень цих величин лежить від 6,395 до
6,755  10 –3; Пас. Ці дані можуть характеризуватися середнім
арифметичним значенням , яке дорівнює:
, Підрахуємо
де: n  кількість вимірів значень уі, а і  номер виміру; і = 1, 2,..,n.
n
y
y
i

 59
,
6
12
08
,
79
y 


Основи регресійного аналізу (2)
Інша характеристика багаторазових вимірів це  середньо-
квадратична похибка:
,
Середньо-квадратична похибка, яка піднесена до квадрату називається
дисперсією у2.
Ще однією статистичною величиною буде коефіцієнт відносної
похибки kу, який визначається у відсотках:
 
1
n
y
y
2
n
1
i
i
y





 094916
,
0
1
12
0991
,
0
y 



%
100
y
k
y
y

 %
44
,
1
%
100
59
,
6
094916
,
0
ky 


і Значення yi
Кількість
вимірювань
Границі інтервалу
Верхня Нижня
1 6,395 0,038025 1 6,395  6,455
2 6,485 0,011025 1 6,455  6,515
3 6,525 0,004225
3 6,515  6,575
4 6,555 0,001225
5 6,565 0,000625
6 6,585 0,000025
4 6,575  6,635
7 6,615 0,000625
8 6,625 0,001225
9 6,535 0,002025
10 6,665 0,005625 2 6,635  6,695
11 6,675 0,007225
12 6,755 0,027225 1 6,695  6,755
Сума 79,08 0,0991
Основи регресійного аналізу (3)
Діапазон можливих змін значень виміряних величин 6,395  6,755 розіб`ємо на 6
рівних інтервалів, які знаходяться між числами: 6,395; 6,455; 6,515; 6,575; 6,635; 6,695;
6,755. Підрахуємо скільки значень виміряних величин уі на кожному інтервалі.
 2
i y
y 

Основи регресійного аналізу (4)
По даних таблиці побудуємо криву розподілу даних, яка показує форму
кривої даних навколо середньоарифметичного значення.
Крива, яка симетрична і має форму дзвона називається кривою
нормального розподілу даних або густиною нормального розподілу і
описується рівнянням.
2
y
2
2
)
y
y
(
y
e
2
1
)
y
(
f







Основи регресійного аналізу (5)
Максимальне значення кривої в точці дорівнює:
При нормальному розподілі даних діапазон в межах повинен
охоплювати приблизно 68 % від загальної кількості вимірів. В
нашому випадку в діапазон 6,59 – 0,095  y  6,59 + 0,095 попадає
9 вимірів, що складає 75% вимірів. Діапазон охоплює приблизно
95% вимірів, а при використанні 3у охоплюється 99,7% вимірів.
Значення які виходять за межі 3у вважаються
практично неможливими (помилковими). На даному прикладі
помилкою будуть величини, які менші ніж 6,59 – 0,0953 = 6,305 і
більші за 6,56 + 0,0953 = 6,845.
59
,
6
y 
2
,
4
28
,
6
0949
,
0
1
2
1
)
y
(
f
y






Основи кореляційного аналізу (1)
Щоб визначити математичну залежність між параметрами моделі по
дослідним табличним даним слід в першу чергу оцінити тісноту
зв’язку між ними, перевірити гіпотезу кореляції змінних, які
досліджуються, виявити існування лінійного або нелінійного зв’язку.
Тіснота зв’язку між двома параметрами визначається
коефіцієнтом парної кореляції rxy.
де  середньоарифметичні значення хі, уі і добутку хі на
уі; х, у  середньо-квадратичні похибки по х і у.
Для невеликої
вибірки даних
n
Для великої
вибірки даних
n
  
y
x
n
1
i
i
i
xy
y
y
x
x
n
1
r







y
x
n
1
i
i
i
xy
xy
y
x
n
1
r






xy
,
y
,
x

Основи кореляційного аналізу (2)
Коефіцієнт кореляції приймає значення від –1 до +1. Якщо |rxy| = 0, то
х і у некорельовані величини. При |rxy| = 1 між х і у існує точна лінійна
функціональна залежність виду у = а0 + а1х. Некорельовані величини х
і у можуть бути і незалежними і залежними, але в останньому випадку
зв’язок між ними матиме нелінійний характер.
Щоб виявити, що лінійна залежність між х і у не існує, треба
перевірити виконання нерівності:
де t  критерій Ст’юдента при k = ,   рівень значущості, який вказує
на долю хибних дослідів. . При значенні  = 0,01 значення t = 2,576, а
при значенні  = 0,05 значення t = 1,96.
Якщо нерівність виконується то у (1  )100 відсотків випадків
кореляційний зв’язок відсутній. У цьому випадку зв’язок між х і у
шукаємо в нелінійній формі.

 


 t
r
1
n
r
t 2
xy
xy

Використання інтерполяції
 Коли функціональна залежності між параметрами моделі приведена
у вигляді таблиці, а дані таблиці отримані з високою точністю, їх
розрахунок в математичних моделях виконується з використанням
методів інтерполяції.
 При визначенні значень функції, які знаходяться в межах зміни
параметрів таблиці, цю процедуру називають інтерполяцією, якщо
за межами  екстраполяцією.
 Загальним методом обробки табличних даних є інтерполяційний
поліномом. Формула n  вимірного поліному така:
у = a0 + a1x + a2x2 + a3x3 + … + anxn
 Ця формула може описати таблицю з n+1-шою точкою кривою, що
проходить через всі точки таблиці.
 Простіші варіанти інтерполяції – це лінійна і квадратична
інтерполяції, для яких необхідно мати дві або три точки табличних
даних.

Лінійна інтерполяція
В лінійній інтерполяції використовується
дві сусідні точки таблиці, між якими знахо-
диться шукане значення функції. Це можна
описати рівнянням:
yл = b0 + b1(x  x0)
Коефіцієнти цього рівняння визначаються з подібності двох трикутників
(див. рис.) гіпотенузою яких є лінія, що з’єднує нульову і першу точки між
собою. Відношення сторін трикутників рівне:
звідки
Таким чином: а

Квадратична інтерполяція
Через три точки можна провести параболу.
Рівняння параболи має вид: у = a0 + a1x + a2x2
Квадратичний поліном для трьох точок можна
записати у вигляді рівняння:
yк = b0 + b1(x  x0) + b2(x  x0)(x  x1)
Розкриємо дужки в рівнянні і отримаємо:
ук = b0 + b1x  b1x0 + b2x2  b2x x1  b2x x0 + b2x0x1
Звідки a0 = b0  b1x0 + b2x0x1, a1 = b1  b2x0  b2x1, a2 = b2
Визначимо коефіцієнти квадратичного полінома. Для цього в рівняння
підставимо значення х = х1. Тоді у0 = yк , а b0 = у0.
При х = х1, у1 = yк , а
При х = х1, у2 = yк
0
2
0
1
0
1
1
2
1
2
2
x
x
x
x
y
y
x
x
y
y
b








Приклад квадратичної інтерполяції
Для прикладу використаємо відому функцію у=е-х. Порахуємо її значення
на діапазоні х від –1 до 3-х і запишемо результати в таблицю:
Використовуючи першу і третю точки таблиці за допомогою рівняння
лінійної інтерполяції порахуємо значення функції в точці х = 0.
При х0= –1, у0 = 2,7183, х1= 1, у1 = 0,3679
Використовуючи рівняння квадратичної інтерполяції по першій, третій і четвертій
точці таблиці при х0= –1, у0 = 2,7183, х1= 1, у1 = 0,3679, х2= 3, у2 = 0,0499.
Відносні похибки і
рівні:
хі -1 0 1 3
yi 2.7183 1 0.3679 0.0499
5431
,
1
))
1
(
0
(
)
1
(
1
7183
,
2
3679
,
0
7183
,
2
)
x
x
(
x
x
y
y
y
)
0
(
y 0
0
1
0
1
0
л 












28905
,
1
)
1
0
))(
1
(
0
(
25405
,
0
5431
,
1
)
x
x
)(
x
x
(
b
y
)
0
(
y 1
0
2
л
к 









%
31
,
54
%
100
1
5431
,
1
1
kл 

 %
9
,
28
%
100
1
28905
,
1
1
kк 



Інтерполяційний поліном Ньютона
Загальний вигляд n-вимірного інтерполяційного полінома Ньютона для n + 1
точки таблиці має вигляд:
Ун = b0 + (x  x0)+… + bn(x  x0) (x  x1)… (x  xn-1)
При цьому: b0 = f(х0); b1 = f(x0,x1);b2 = f(x0,x1,x2);… bn = f(x0,x1,x2,…,xn);
Значення вказаних вище функцій називаються різницями першого,
другого і т. д. порядків. Їх можна записати як:
Схема послідовності обчислень різниць різних порядків
j
i
j
i
j
i
x
x
x
f
x
f
x
x
f



)
(
)
(
)
,
(
k
i
k
j
j
i
k
j
i
x
x
x
x
f
x
x
f
x
x
x
f



)
,
(
)
,
(
)
,
,
(
Різниці першого, другого, третього порядків
х0, f(х0)
х2, f(х2)
х3, f(х3)
x1, f(х1)
f(х0,x1)
f(х1,x2)
f(х2,x3)
f(х0,x1, x2)
f(х1,x2,x3)
f(х0,x1,x2,x3)
xi, yi
і
1
2
3
4

Схема алгоритму інтерполяції за
допомогою полінома Ньютона
ПОЧАТОК
Введенн
я
N, xн
i = 1, N
Вводим
о
xi-1, yi-1
Ri, 1 = yi-1
j = 2, N
i = 1, Nj +1
Ri+1, j1  Ri, j1
Ri, j = 
xi+j2  xi1
8
5
k = 1, N1
P = 1
F0 = R1, 1
P = P(xнxk1)
Fk = Fk1+PR1, k+1
yн = Fk1
Виводимо
хн, ун
КІНЕЦЬ
1 8
9
10
2
3
4
5
6
7
11
12
13

Інтерполяційний поліном Лагранжа
Загальний вигляд n-вимірного інтерполяційного полінома Лагранжа такий:
де n – кількість точок таблиці, в якій нумерація починається з нуля. Використаємо
поліном Лагранжа для розв’язання попередньої задачі з використанням трьох
точок таблиці Тоді рівняння розкладеться в трьохчленний ряд:
 




 


1
0
1
0
n
i
n
i
j
j
i
j
i
j
L y
x
x
x
x
x
y
,
)
(
)
(
28905
1
0499
0
1
3
1
3
1
0
1
0
3679
0
3
1
1
1
3
0
1
0
7183
2
3
1
1
1
3
0
1
0
0 2
1
2
0
2
1
0
1
2
1
0
1
2
0
0
2
0
1
0
2
1
,
,
)
))(
(
(
)
))(
(
(
,
)
))(
(
(
)
))(
(
(
,
)
)(
(
)
)(
(
)
)(
(
)
)(
(
)
)(
(
)
)(
(
)
)(
(
)
)(
(
)
(




































 y
x
x
x
x
x
x
x
x
y
x
x
x
x
x
x
x
x
y
x
x
x
x
x
x
x
x
yL
Результат буде таким самим і з такою ж похибкою, як і при розв’язанні цієї ж
задачі за допомогою полінома Ньютона.

Схема алгоритму інтерполяції за
допомогою полінома Лагранжа
ПОЧАТОК
Введен
ня
N, xL
i = 0,
N-1
Вводим
о
xi, yi
i = 0,
N-1
P=1
6
1
2
3
5
6
j = 0, N1
i = j
xL  xj
P = P 
xi  xj
yL = yL +Pyi
Виводимо
xL, уL
КІНЕЦЬ
7
8
9
10
11
yL = 0
4
7
ні
так

Метод найменших квадратів
Варіанти вибору
методу пошуку
коефіцієнтів поліному

Знаходження методом НК
коефіцієнтів лінійного рівняння
 Критерій
мінімізації
 Похідні по а0 і
а1
 Знаходження
сум
 Знаходження
коефіцієнтів

Приклад розрахунку
коефіцієнтів лінійного рівняння

Квадратична апроксимація методом НК з
використанням MathCad
Формування
масивів
Обчислення
коефіцієнтів
Середньо-
квадратична
похибка

Знаходження коефіцієнтів нелінійних
рівнянь (Таблиця замін змінних в рівняннях)
Вид
рівняння
регресії
Заміна
змінних
Вид
рівняння
після заміни
Вид
рівняння
регресії
Заміна
змінних
Вид
рівняння
після заміни
x
b
b
y 1
0 

x
1
u  u
b
b
y 1
0 


x
0
0 e
b
b
y 


 x
e
u 
 u
b
b
y 1
0 


)
x
ln(
b
b
y 0
0 

 )
x
ln(
u  u
b
b
y 1
0 


x
b
b
1
y
1
0 

y
1
v
;
x
1
u 

u
b
b
v 1
0 


x
0
0 e
b
b
1
y 



y
1
v
;
e
u x

  u
b
b
v 1
0 


1
b
0 x
b
y 

)
y
ln(
v
);
x
ln(
u 

)
b
ln(
0
b 0

u
b
0
b
v 1 


x
b
0
1
e
b
y 

 )
b
ln(
0
b
);
y
ln(
v 0


x
b
0
b
v 1 


x
b
0
1
e
b
y 

)
y
ln(
v
;
x
1
u 

)
b
ln(
0
b 0

u
b
0
b
v 1 


x
b
b
0
2
1
e
x
b
y 


 )
y
ln(
v
);
x
ln(
u 

)
b
ln(
0
b 0

x
b
u
b
0
b
v 2
1 




2
2
1 x
b
x
b
0 e
b
y 




)
ln(
0
);
ln( 0
b
b
y
v 

2
2
1 x
b
x
b
0
b
v 





Приклад знаходження коефіцієнтів
нелінійного рівняння методом НК
Графік експоненційної
залежності J1(p) = b0e(b1/p)
і дослідних даних
G 0.5 1.0 1.5 2.0 2.5 3.0
( )
T
 N 5

Z 12.2 18.6 22.2 23.1 23.9 24.9
( )
T
 i 0 N


U ln Z
( )
 V
1
G

BB
U

i
Ui Vi















AA
6
V

V

V
2














b AA
1

BB

 b
3.358
0.428







 b0 e
b0

b0 28.733

J1 x
( ) b0 e
b1
x


SK1
0
N
i
Zi J1 Gi
 

 2
N


 SK1 0.31


Методи проведення експериментів
Види експериментів
Пасивний Активний
Однофакторний Багатофакторний
Повний факторний
експеримент 1-го порядку
Експеримент з дрібною
реплікою
Факторний експеримент
другого порядку
Експеримент по ортогональному
плану
Експеримент по ротатабельному
плану

Фактори і їх рівні
Рівні факторів
Фактор 1, оС Фактор 2,% Фактор 3,хв.
z1 x1 z2 x2 z3 x3
Нижній рівень 60 1 0,2 1 6 1
Нульовий
рівень
75 0 0,3 0 11 0
Верхній рівень 90 +1 0,4 +1 16 +1
Інтервал
варіювання
15 1 0,1 1 5 1

Геометричне зображення 2-х і 3-х
факторних планів ПФЕ

Збільшення кількості дослідів у
двохрівневому плані
Кількість
факторів k:
два
три
чотири
п'ять
шість
сім
N = 2k
4
8
16
32
64
128
N – кількість дослідів, М – кількість повторних дослідів, L – кількість
значимих коефіцієнтів рівнянь, k – кількість факторів

План 3-х факторного експерименту

Рандомизація дослідів
 Фрагмент таблиці
випадкових чисел
56 66 25 32 38 64 70
26 27 67 77 40 04 34
63 98 99 89 31 16 12
90 50 28 96 88 40 52
02 29 82 …
 Приклад використання
функції випадкових чисел
в MathCad
Параметри змінної стану
y1 y2 y3
4 16 12
2 21 3
23 7 14
15 8 22
17 9 13
1 20 11
24 18 19
5 6 10

Властивість ортогональності
плану експерименту

Однорідність дослідних даних
№ досліду 1 2 3 4 5 6 7 8
Середнє ysi 4.84 4.62 3.20 4.15 3.55 3.65 2.16 2.51
Дисперсія
Si
2104
16 9 36 20.3 6.2 9 30.2 20.2
 Розрахований
критерій Кохрена
- дисперсія
досліду
- сума
дисперсій
- критерій
Кохрена
 Табличний
критерій Кохрена
- рівень
значущості  = 0,05
- cтупені волі f1 = M - 1
f2 = N
- умова
однорідності Gр < Gт

Таблиця для розрахунку коефіцієнтів
моделі ПФЕ

Обчислення коефіцієнтів рівняння
 Обчислення
коефіцієнтів
- коефіцієнти лінійної моделі:
- коефіцієнти парної
взаємодії
 Перевірка
значущості
коефіцієнтів
- табличний
критерій
Стьюдента
- дисперія
відтворення
- інтервал
надійності

Адекватність рівняння регресії
Вид рівняння регресії для 3-х факторів:
yp = a0+a1x1+a2x2+a3x3+a12x1x2+a13x1x3 +a23x2x3+a123x1x2x3
 Розрахований
критерій Фішера
- дисперсія адекватності
- критерій Фішера
 Табличний критерій
Фішера
- рівень
значущості  = 0,05
- cтупені волі fад = N  L
fвід = N(M 1)
- умова
адекватності Fр < Fт

Контрольні запитання
 Яка відміна між абсолютною і відносною похибкою?
 Чому дорівнює середньоарифметична похибка ?
 Що визначає закон розподілу випадкових величин ?
 Які причини пояснюють широке використання нормального закону
розподілу випадкових величин, і які параметри характеризують?
 Чому дорівнює середньоквадратична похибка середнього
значення ?
 Що таке довірчий інтервал ?
 Яка різниця між розподілом Стьюдента і Гауса ?
 Як знайти довірчий інтервал використовуючи коефіцієнт
Стьюдента ?
 Що визначає коефіцієнт парної кореляції?
 Коли між параметрами існує лінійна залежність?
 Чому для знаходження коефіцієнтів рівнянь вибрана умова
мінімізації суми квадратів відхилень розрахованих значень від
табличних, а не сума відхилень, або сума модулів відхилень?
 Коефіцієнти яких рівнянь знаходять методом НК?
 Чи можна знаходити методом НК коефіцієнти нелінійних рівнянь?
Якщо так, то як?

Контрольні запитання
 По якій умові вибирають метод НК для оброблення дослідних
даних?
 Чим відрізняється інтерполяція від екстраполяції дослідних даних?
 Чому метод найменших квадратів має таку назву?
 Чим відрізняється рівняння середньоквадратичної похибки від
рівняння дисперсії математичної моделі?
 Коли виконується активний, а коли пасивний експеримент?
 Що таке повний факторний експеримент, експеримент з дрібною
реплікою?
 3.Коли вибирається дворівневий план експерименту і як
вибираються рівні факторів ?
 Для чого потрібна рандомізація дослідів ?
 Як визначається помилка дослідів ?
 Що таке інтервал надійності і яке він має відношення до
коефіцієнтів моделі ?
 Як визначається дисперсія адекватності моделі ?
 На що вказує рівень значущості дослідних даних ?