1. Nhận viết đề tài trọn gói – ZL: 0909 23 26 20–
Luanvanmaster.com
TẢI TÀI LIỆU KẾT BẠN ZALO : 0909 23 26
20
BỘ GIÁO DỤC VÀ ĐÀO TẠO
ĐẠI HỌC ĐÀ NẴNG
PHẠM LÊ KIM THANH
PHƢƠNG PHÁP
BÌNH PHƢƠNG NHỎ NHẤT VÀ ỨNG DỤNG
Chuyên ngành: Phƣơng pháp toán sơ cấp
Mã số: 60. 46. 01.13
TÓM TẮT LUẬN VĂN THẠC SĨ KHOA HỌC
Đà Nẵng –Năm 2016
2. Nhận viết đề tài trọn gói – ZL: 0909 23 26 20–
Luanvanmaster.com
TẢI TÀI LIỆU KẾT BẠN ZALO : 0909 23 26
20
3. Nhận viết đề tài trọn gói – ZL: 0909 23 26 20–
Luanvanmaster.com
TẢI TÀI LIỆU KẾT BẠN ZALO : 0909 23 26
20
Công trình được hoàn thành tại
ĐẠI HỌC ĐÀ NẴNG
Người hướng dẫn khoa học: TS. LÊ HẢI TRUNG
Phản biện 1: TS. Lê Hoàng Trí
Phản biện 2: TS.Trịnh Đào Tiến
Luận văn đã được bảo vệ trước Hội đồng chấm Luận văn tốt
nghiệp thạc sĩ Khoa học tại Đại học Đà Nẵng vào ngày 13
tháng 8 năm 2016.
Có thể tìm hiểu luận văn tại:
- Trung tâm Thông tin – Học liệu, Đại học Đà Nẵng.
- Thư viện trường Đại học Sư phạm, Đại học Đà Nẵng
4. Nhận viết đề tài trọn gói – ZL: 0909 23 26 20–
Luanvanmaster.com
TẢI TÀI LIỆU KẾT BẠN ZALO : 0909 23 26 20
1
MỞ ĐẦU
1. Lý do chọn đề tài
Trong khoa học kỹ thuật chúng ta thường gặp rất nhiều bài
toán tối ưu hóa được quy về tìm cực trị của dạng bình phương ví dụ
như tìm cực tiểu của năng lượng hay tìm cực đại của entropy. Trong
toán học cũng như trong thực tế ta thường gặp các bài toán liên quan
đến khảo sát và tính giá trị của hàm y f ( x) nào đó. Tuy nhiên trong
thực tế không phải lúc nào ta cũng xác định được sẵn hàm số mà chỉ
nhận được các dữ liệu rời rạc xi tương ứng với giá trị yi . Vấn đề đặt
ra là xây dựng một hàm số biểu diễn cho các giá trị ( xi , yi ) đã cho.
Có rất nhiều lớp các bài toán thực tế mà qua khảo sát người ta xác
định được nó có dạng tuyến tính như y a. x b, hoặc y a. x 2
bx c, hoặc các mô hình phức tạp hơn. Có nhiều phương pháp để xác
định được các hàm đã nêu ví dụ như: Phương pháp nội suy, Phương
pháp bình phương nhỏ nhất, Phương pháp Picard… Để tìm hiểu về
phương pháp xây dựng hàm số nêu trên và được sự gợi ý của giáo
viên hướng dẫn nên tôi đã lựa chọn đề tài « Phương pháp bình
phương nhỏ nhất và ứng dụng » cho luận văn thạc sĩ của mình.
2. Mục tiêu nghiên cứu của đề tài
Mục tiêu của đề tài này là nghiên cứu về phương pháp bình
phương nhỏ nhất. Đồng thời, nghiên cứu ứng dụng phương pháp bình
phương nhỏ nhất vào các bài toán.
5. Nhận viết đề tài trọn gói – ZL: 0909 23 26 20–
Luanvanmaster.com
TẢI TÀI LIỆU KẾT BẠN ZALO : 0909 23 26 20
2
3. Đối tƣợng và phạm vi nghiên cứu
3.1. Đối tượng nghiên cứu
Nghiên cứu xây dựng mô hình tuyến tính bằng phương pháp
xấp xỉ bình phương nhỏ nhất.
3.2. Phạm vi nghiên cứu
Nghiên cứu từ các tài liệu, các giáo trình về phương pháp bình
phương nhỏ nhất của các tác giả liên quan.
Xây dựng các mô hình một biến, nhiều biến và đánh giá sự
tương hợp của mô hình.
4. Phƣơng pháp nghiên cứu
Nghiên cứu các tài liệu tham khảo liên quan đến đề tài, nắm
vững cơ sở lý thuyết, từ đó ứng dụng phần mềm Mathematica để mô
tả nghiệm (gần đúng) và tìm nghiệm gần đúng của bài toán. Trong
luận văn, các phương pháp sử dụng nằm trong các lĩnh vực sau đây:
Toán học giải tích, Giải tích hàm, Giải tích số, Quy hoạch thực
nghiệm, Thống kê toán học.
5. Bố cục đề tài
Ngoài phần mở đầu và kết luận, luận văn có 3 chương
Chương 1. Kiến thức chuẩn bị. Chương này trình bày một số
khái niệm, định lý về sự liên tục của hàm nhiều biến; sơ lược phép
tính vi phân hàm nhiều biến; điều kiện đạt cực trị của hàm nhiều
biến.
Chương 2. Phương pháp bình phương nhỏ nhất và ứng dụng.
Chương này trình bày về nội dung của phương pháp bình phương
6. Nhận viết đề tài trọn gói – ZL: 0909 23 26 20–
Luanvanmaster.com
TẢI TÀI LIỆU KẾT BẠN ZALO : 0909 23 26 20
3
nhỏ nhất; bài toán phương pháp bình phương nhỏ nhất để xấp xỉ hàm
trong thực nghiệm; ưu điểm và hạn chế của phương pháp bình
phương nhỏ nhất trong mô hình tuyến tính và một số tiêu chuẩn đánh
giá mô hình tuyến tính. Ứng dụng của phương pháp bình phương nhỏ
nhất.
6. Tổng quan tài liệu nghiên cứu
Nghiên cứu từ các tài liệu liên quan đến Toán học giải tích, Giải
tích hàm, Giải tích số, Quy hoạch thực nghiệm, Thống kê toán học và
các tài liệu liệu về phần mềm Mathematica của tác giả trong và ngoài
nước.
7. Ý nghĩa khoa học và thực tiễn của đề tài
Đề tài góp phần nghiên cứu phương pháp bình phương nhỏ
nhất và ứng dụng phù hợp với chuyên nghành Phương pháp toán sơ
cấp.
Sau khi cho phép bảo vệ, được sự góp ý của các thầy cô trong
hội đồng, luận văn có thể dùng làm tài liệu tham khảo cho sinh viên,
giáo viên, học sinh phổ thông và những đối tượng quan tâm lĩnh vực
này.
Do thời gian nghiên cứu không nhiều nên có thể còn một số
nội dung mà luận văn chưa đề cập đến. Tôi sẽ tiếp tục nghiên cứu và
bổ sung thường xuyên để nội dung luận văn được phong phú, và có
giá trị thực tiễn hơn.
7. Nhận viết đề tài trọn gói – ZL: 0909 23 26 20–
Luanvanmaster.com
TẢI TÀI LIỆU KẾT BẠN ZALO : 0909 23 26 20
4
CHƢƠNG 1
KIẾN THỨC BỔ TRỢ
1.1. SỰ LIÊN TỤC CỦA HÀM NHIỀU BIẾN
1.1.1. Rn
và các tập con
1.1.2. Biểu diễn hình học của hàm hai biến số
1.1.3. Giới hạn của hàm nhiều biến số Z = f(x, y)
1.1.4. Sự liên tục của hàm số Z = f(x, y)
1.2. SƠ LƢỢC PHÉP TÍNH VI PHÂN CỦA HÀM NHIỀU BIẾN
1.2.1. Khái niệm mở đầu
a. Không gian Rn
b. Khoảng cách, chuẩn trong Rn
c. Lân cận, điểm tụ
1.2.2. Đạo hàm riêng
Định lý 1.1. (Định lý Schawartz). Nếu f(x, y) liên tục trên
miền mở E R2
có đạo hàm cấp hai f '' xy ( x, y ), f '' yx ( x, y) liên tục
tại điểm P0 ( x0 , y0 ) thì f '' xy ( x, y ) f '' yx ( x, y).
1.3. ĐIỀU KIỆN ĐẠT CỰC TRỊ CỦA HÀM NHIỀU BIẾN
1.3.1. Cực trị tự do
a. Định nghĩa và điều kiện cần của cực trị
Định lý 1.2. Nếu f ( x, y) đạt cực trị tại M0 và có các đạo hàm
riêng tại đó thì các đạo hàm riêng bằng 0.
8. Nhận viết đề tài trọn gói – ZL: 0909 23 26 20–
Luanvanmaster.com
TẢI TÀI LIỆU KẾT BẠN ZALO : 0909 23 26 20
5
b. Điều kiện đủ của cực trị
Định lý 1.3. Giả sử f ( x, y) có đạo hàm riêng cấp hai liên tục
tại lân cận của điểm dừng ( x0 , y0 ) và gọi:
A 2 f
( x0 , y0 ), B2 f
( x0 , y0 ), C
x 2
xy
2 f
(x0 , y0 ) , B 2
AC.
y2
Khi đó:
- Nếu > 0 thì hàm số không đạt cực trị tại ( x0 , y0 ).
- Nếu = 0 thì chưa kết luận gì được về ( x0 , y0 ).
- Nếu < 0 thì hàm số đạt cực trị tại ( x0 , y0 ).
Cụ thể đạt cực đại nếu A < 0, đạt cực tiểu nếu A > 0.
1.3.2. Cực trị có điều kiện
a. Định nghĩa và điều kiện cần
b. Điều kiện đủ
1.4. MA TRẬN VÀ PHÉP TÍNH LIÊN QUAN
1.4.1. Ma trận
1.5. DẪN NHẬP VỀ HỆ PHƢƠNG TRÌNH TUYẾN TÍNH
1.5.1. Khái niệm chung
1.5.2. Hệ Cramer
1.5.3. Hệ phƣơng trình tuyến tính tổng quát
1.5.4. Hệ phƣơng trình tuyến tính thuần nhất
9. Nhận viết đề tài trọn gói – ZL: 0909 23 26 20–
Luanvanmaster.com
TẢI TÀI LIỆU KẾT BẠN ZALO : 0909 23 26 20
6
CHƢƠNG 2
PHƢƠNG PHÁP BÌNH PHƢƠNG NHỎ NHẤT
VÀ ỨNG DỤNG
2.1. NỘI DUNG PHƢƠNG PHÁP BÌNH PHƢƠNG NHỎ NHẤT
2.1.1. Khái niệm
Phương pháp bình phương nhỏ nhất (tối thiểu) là kĩ thuật ước
lượng thống kê được sử dụng phổ biến nhất trong các mô hình hồi
quy tuyến tính. Mục đích của phương pháp là từ các mẫu rời rạc quan
sát được trên thực nghiệm xác định một hàm biểu diễn gần đúng sự
phân phối của các mẫu đó, từ đó có thể ước lượng được các giá trị
chưa thể đo được trên thực tế.
Giả sử đã đo được các mẫu ( xi , yi ) với i = 1,2,….,n. Mục đích
là xác định hàm f ( x) thỏa mãn : f ( xi ) yi .
10. Nhận viết đề tài trọn gói – ZL: 0909 23 26 20–
Luanvanmaster.com
TẢI TÀI LIỆU KẾT BẠN ZALO : 0909 23 26 20
7
Giải sử hàm f có thể thay đổi hình dạng phụ thuộc vào một
hàm p j với j = 0,1,2,…m, f ( x ) f ( p j , x).
Sai số giữa giá trị thực và giá trị ước lượng theo hàm f ( p j , x)
tại x xi .
Xác định các giá trị p j sao cho biểu thức sau đạt giá trị cực
tiểu:
n
x 2
( yi f (xi ))2
min.
i1
Điều này giải thích tại sao tên của phương pháp là bình
phương tối thiểu.
Đôi khi thay vì tìm giá trị n của tổng bình phương, người ta có
thể tìm giá trị nhỏ nhất của bình phương trung bình.
x 2
1
n
( yi f (xi ))2
,
n
i1
điều này dẫn đến tên gọi bình phương trung bình tối thiểu.
2.1.2. Lập công thức hồi quy dạng y a x b
Giả sử biết được n giá trị thực nghiệm yi (i 0,1, 2,..., n) của
hàm f(x) tại các điểm xi tương ứng. Tìm hàm xấp xỉ f(x) là một đa
thức cấp m có dạng pm ( x ) a x b.
Theo định nghĩa ta có.
S vi
2
(a xi bi yi )2
min.
i1i1
nn
Coi S là hàm số 2 biến a và b, như vậy S đạt cực tiểu tại điểm
mà đạo hàm của S theo a và b đồng thời bằng 0:
11. Nhận viết đề tài trọn gói – ZL: 0909 23 26 20–
Luanvanmaster.com
TẢI TÀI LIỆU KẾT BẠN ZALO : 0909 23 26 20
8
S n
2( a xi bi yi ) xi 0,
a
i1
S n
2(a xi bi yi ) xi 0.
b
i1
Rút gọn và chuyển vế ta có:
n n n
a xi
2
b xixi yi ,
i1 i1 i1
n n
a x b y .
ii
i1i1
Giải ra ta được:
n n n
a
nxi yi x
i y
i
i1 i1 i1
;
n n
n xi
2
(xi )2
i1 i1
n n n n
b
n
x
i xi
2
xi x
i
y
i
i1 i1 i1 i1
.
n n
n xi
2
(xi )2
i1 i1
2.1.3. Hàm nhiều biến số
Giả sử rằng mối tương quan đại lượng ra y phụ thuộc tuyến
tính vào nhiều yếu tố đầu vào, như mòn dụng cụ cắt, phụ thuộc vào
vận tốc, áp lực, vật liệu cắt các chế độ khác…
Giả thuyết rằng chúng có quan hệ tuyến tính với các thông số
vào xi , hàm số tương ứng sẽ là:
y a0 a1 x1 a2 x2 .... ai xi ... ak xk . (2.1)
Sử dụng phương pháp bình phương nhỏ nhất các giá trị ai
12. Nhận viết đề tài trọn gói – ZL: 0909 23 26 20–
Luanvanmaster.com
TẢI TÀI LIỆU KẾT BẠN ZALO : 0909 23 26 20
9
sao cho:
n
S (a0 , a1 ,..., ak )( yi a0 a1 x1 ... ak xik )2
i1
nhận giá trị nhỏ nhất.
Ta có hệ phương trình:
S ( ao , a1 ,..., ak )
n
2xil ( yi a0 a1 ... ak xik ) 2
,
al i1
hay viết dưới dạng ma trận như sau.
(2.2)
(2.3)
x10
x
20 ... x1i ... x1k
. . . . .
. . . . .
x
m1 xmi ...
X
x
m 0 ... x
mk
; Y
. . . . .
.
. . . .
x x ... x ... x
n 0 n1 ni nk
y1
y
2
.
.
,
.
.
y
n
trong đó: coi xm0 1, m1, n, tức là coi a0 là hệ số của x0 luôn bằng 1.
Gọi XT
là ma trận chuyển vị của ma trận X, nghĩa là
X T
( xij )T
( k1)n là ma trận cấpk 1 n :
sao cho: xT
x
ji
. (2.4)
ij
Sử dụng (2.3) vào ta có:
X T
. X .a X T
.Y. (2.5)
13. Nhận viết đề tài trọn gói – ZL: 0909 23 26 20–
Luanvanmaster.com
TẢI TÀI LIỆU KẾT BẠN ZALO : 0909 23 26 20
Phương trình này là phương trình cơ bản của phương pháp bình
phương nhỏ nhất, nó giúp ta xác định được các giá trị của ma trận
thông số ai .
14. Nhận viết đề tài trọn gói – ZL: 0909 23 26 20–
Luanvanmaster.com
TẢI TÀI LIỆU KẾT BẠN ZALO : 0909 23 26 20
10
a0
a
a 1
.
(2.6)
a
k
Đặt XT.X = M, (2.7)
với M là ma trận vuông cấp k+1. Nếu det (M) 0 thì M là ma
trận khả nghịch, từ (2.3) ta có:
M .a X T
T1,
(2.8)
a M1
. X T
Y ,
k n
a jm jl
x jl yi . (2.9)
l 0 i0
n k
S ( a ) S ( a0 , a1 ..., ak ) (Y Xa )T
(Y Xa )( yi xij a j ) 2
, (2.10)
i1 j0
trong đó:
k
y
1
x
ij
a
1
j0
Y Xa . (2.11)
k
y n
xnj
an
j0
Áp dụng cho hàm một biến
Giả thiết có mối tương quan bậc nhất:
y a0 a1 x.
Từ n thí nghiệm ta có bảng sau:
15. Nhận viết đề tài trọn gói – ZL: 0909 23 26 20–
Luanvanmaster.com
TẢI TÀI LIỆU KẾT BẠN ZALO : 0909 23 26
20
11
n x0 x y
1 1 x1 y1
2 1 x2 y2
n 1
x
n
y
n
Tương ứng ta có ma trận:
1
1 x
X1
x2
; Y
1 x
n
y1
y
2
.
y
n
Ma trận M là:
1 1 ...
MXT
X
x2
x
1
1
xn
1
x
1
n
1 x
2 n
x
i
1 x
n i1
x
i
n
i1 ,
n
x2
i
i1
M1
(XT
1
XTY
x1
Từ:
x2 i
n
X)1
1 i1
n n
2 n
2
(xi )
n
x
i
x
i
i1 i1 i1
y
n
1 ... 1y 1 yi
2
ni1 .
x x
2 n
x
i
y
i
y
n i1
n
xi
i1
,
a (M T
.X )1
.(X T
.Y),
a M1
.( M T
.Y ),
16. Nhận viết đề tài trọn gói – ZL: 0909 23 26 20–
Luanvanmaster.com
TẢI TÀI LIỆU KẾT BẠN ZALO : 0909 23 26
20
có
17. Nhận viết đề tài trọn gói – ZL: 0909 23 26 20–
Luanvanmaster.com
TẢI TÀI LIỆU KẾT BẠN ZALO : 0909 23 26 20
12
n n n n
yix 2
ixixi yi
a i1 i1 i1 i1 , (2.12)
0 n 2 n 2
n x i
x
i
i1 i1
n n n
a
n x
i
y
i
x
i y
i
i1 i1 i1 .
1 n 2 n 2
n x i
x
i
i1 i1
n 2 2 n 2
2
Đặt: n x x
i , (2.13)
i ( xi ).n ; (nx )
i1 i1
n n n
x
i
y
i nxy
;
x
iy
i n .n ,
x y
1 1 1
trong đó các giá trị x ; y , x 2
, x. y , ( x )2
là các giá trị trung bình cộng.
Ta có:
2
1 . xy
a
x y x
,
n ( x 2
( )2
xy .
x x y
x 2
xy
a y x , (2.14)
0
x 2
( )2
x
.
xy .y
a x
1
x 2
( )2
x
Đôi khi ta còn thực hiện tuyến tính hóa hàm phi tuyến nhiều
biến dạng: y a0 x1a1 x2a2 x3a3 ... xna2 .
Logarit hai vế :
18. Nhận viết đề tài trọn gói – ZL: 0909 23 26 20–
Luanvanmaster.com
TẢI TÀI LIỆU KẾT BẠN ZALO : 0909 23 26 20
ln y ln a0 a1 ln x1 a2 ln x2 ... an ln xn bằng cách
biến đổi
19. Nhận viết đề tài trọn gói – ZL: 0909 23 26 20–
Luanvanmaster.com
TẢI TÀI LIỆU KẾT BẠN ZALO : 0909 23 26 20
13
mới, ta được hàm tuyến tính nhiều biến số:
Y A0 a1 X 1 a2 X 2 .... an X n .
Sau khi tính toán, ta được a0 eA
0 , còn tham số a1 , a2
,...an vẫn giữ nguyên với dạng đa thức:
y a0 a1t a2 t 2
... an tn
,
ta biến đổi mới
x1 t ; x2 t2 ; x3 t3 ....; xn tn
y a0 a1 x1 a2 x2 ... an xn .
Từ đó ta sử dụng hàm hồi quy nhiều biến tuyến tính để xác
định các tham số ai.
2.1.4. Công thức hồi quy tổng quát dạng đa thức bậc m
Giả sử biết được n giá trị thực nghiệm yi (i 0,1, 2,...., n)của f(x)
tại các điểm tương ứng. Tìm hàm xấp xỉ của f(x) là một đa thức cấp
m có dạng:
P ( x ) a a x ... a xm
.
m 01 m
Khi đó các hệ số ai (i 0,1, 2,..., n) sẽ là nghiệm của phương
trình có dạng:
n
2 m
n
n n
a0 n a1 xi
a
2 x
i ... a m xi yi ,
i1 i1 i1 i1
n n n n n
a
0 x
i a1 xi
2
a2 xi
3
... am xi
m1
xi yi ,
i1 i1 i1 i1 i1
....
n n n n n
a0 xi
m
a1 xi
m 1
a2 xi
m2
... am xi
2m
x m
yi .
i1 i1 i1 i1 i1
20. Nhận viết đề tài trọn gói – ZL: 0909 23 26 20–
Luanvanmaster.com
TẢI TÀI LIỆU KẾT BẠN ZALO : 0909 23 26 20
14
1
n
1
n m n
n yi Pm ( xi )2
yi
2
a j yi xi
j
.
n
ni1 i1 0 i1
2.1.5. Bình phƣơng tối thiểu tuyến tính
2.2. BÀI TOÁN PHƢƠNG PHÁP BÌNH PHƢƠNG NHỎ
NHẤT ĐỂ XẤP XỈ HÀM TRONG THỰC NGHIỆM
2.2.1. Đặt vấn đề
Bài toán 2.1. (Tìm hàm xấp xỉ)
Giả sử đã biết các giá trị yi (i1, 2,..., n) của hàm y f ( x) tại
các điểm tương ứng x xi . Tìm hàmm ( x) xấp xỉ với hàm f ( x)
trong đó: m (x )
m
a1i
(x),
i0
vớii ( x) là những hàm đã biết, ai là những hệ số hằng số.
Trong khi giải quyết bài toán này cần chọn hàmm ( x) sao cho
quá trình tính toán đơn giản đồng thời những sai sối có tính chất
ngẫu nhiên (xuất hiện khi thu được các số liệu yi ) cần phải được
chỉnh lí trong quá trình tính toán. Trong bài toán tìm hàm xấp xỉ trên
việc chọn dạng của hàm xấp xỉm ( x) là tùy thuộc vào ý nghĩa thực
tiễn của hàm f ( x).
Bài toán 2.2. (Tìm các tham số của hàm có dạng đã biết)
Giả sử đã biết dạng tổng quát của hàm.
y f ( x, a0 , a1 ,..., am ). (2.15)
21. Nhận viết đề tài trọn gói – ZL: 0909 23 26 20–
Luanvanmaster.com
TẢI TÀI LIỆU KẾT BẠN ZALO : 0909 23 26 20
trong đó ai (i 0,1,..., m) là những hằng số.
22. Nhận viết đề tài trọn gói – ZL: 0909 23 26 20–
Luanvanmaster.com
TẢI TÀI LIỆU KẾT BẠN ZALO : 0909 23 26 20
15
Giả sử qua thực nghiệm ta thu được n giá trị của hàm y yi
(i1, 2,..., n) ứng với các giá trị x xi của đối số. Vấn đề là từ những
số liệu thực nghiệm thu được cần xác định các giá trị của tham số a0 ,
a1 ,..., am để tìm được dạng cụ thể của biểu thức (2.15) y f ( x) về sự
phụ thuộc giữa y và x.
2.2.2. Sai số trung bình bình phƣơng và phƣơng pháp
bình phƣơng tối thiểu tìm xấp xỉ tốt nhất với một hàm
a. Sai số trung bình bình phương
Những hàm trong thực nghiệm thu được thường mắc phải
những sai số có tính chất ngẫu nhiên. Những sai số này xuất hiện do
sự tác động của những yếu tố ngẫu nhiên vào kết quả thực nghiệm để
thu được các giá trị của hàm. Chính vì lý do trên, để đánh giá sự sai
số khác nhau giữa hai hàm trong thực nghiệm ta cần đưa ra khái niệm
về sai số (hoặc độ lệch) sao cho một mặt nó chấp nhận được trong
thực tế, một mặt lại san bằng những sai số ngẫu nhiên (nghĩa là gạt
bỏ được những yếu tố ngẫu nhiên tác động vào kết quả của thực
nghiệm). Cụ thể nếu hai hàm thực chất khá gần nhau thì sai số chúng
ta đưa ra phải khá bé.
Khái niệm về sai số nói trên không chú ý tới kết quả có tính chất cá
biệt nên được gọi là sai số trung bình bình phương.
b. Định nghĩa
Theo định nghĩa ta sẽ gọin là sai số (hoặc độ lệch) trung bình
bình phương của hai hàm f ( x) và( x) trên tập Xx1 , x2 ,..., xn,
và được xác định bởi:
23. Nhận viết đề tài trọn gói – ZL: 0909 23 26 20–
Luanvanmaster.com
TẢI TÀI LIỆU KẾT BẠN ZALO : 0909 23 26 20
16
1
n
n f ( xi )( xi )2
. (2.16)
ni1
c. Ý nghĩa của sai số trung bình bình phương
Để tìm hiểu ý nghĩa của sai số trung bình bình phương ta giả
thiết f ( x) và( x) là những hàm liên tục trên đoạna ,b và
X x1 , x2 ,..., xn là tập hợp các điểm cách đều trên đoạna ,b:
a x1 x2 ... xn b.
Theo định nghĩa tích phân xác định ta có:
lim n , (2.17)
trong đó:
2
1
b
f ( x )( x )2
dx (2.18)
b a a
Giả sử f ( x )( x) có trên đoạna ,b một số hữu hạn cực trị
và là một số dương nào đó cho trước. Khi đó trêna ,b sẽ có k
đoạn riêng biệtai ,bi (i1, 2,..., k ) sao cho:
f ( x )( x) ( với x ai , bi, i1, 2,...,k ).
Gọi là tổng các độ dài của k đoạn nói trên.
Với n đủ lớn vàn đủ bé, từ (2.17) ta suy ra ( bé tùy ý).
Từ (2.18) ta có:
b k
b
i
2
(b a ) f ( x ) ( x )2
dx f ( x ) ( x )2
dx 2
,
a i1 a
i
do đó:
24. Nhận viết đề tài trọn gói – ZL: 0909 23 26 20–
Luanvanmaster.com
TẢI TÀI LIỆU KẾT BẠN ZALO : 0909 23 26 20
17
(b a)
2
,
nghĩa là tổng độ dài của các đoạn sẽ bé tùy ý.
Tóm lại vớin đủ bé (n khá lớn) thì trên đoạna ,b (trừ tại
những điểm của đoạnai ,bi mà tổng độ dài bé tùy ý), ta có
f x ( x) trong đó là một số dương tùy ý cho trước.
Từ nhận xét trên ta rút ra nhận ý nghĩa thực tiễn của sai số
trung bình bình phương như sau: Nếu sai số trung bình bình phương
n của hai hàm f(x) và( x) trên tập hợp n điểm Xa , b (n đủ
lớn) mà khá bé thì với tuyệt đối đa số giá trị của x trêna ,b cho sai
số tuyệt đối giữa f(x) và( x) khá bé.
2.2.3. Xấp xỉ hàm theo nghĩa trung bình phƣơng
2.3. ƢU ĐIỂM VÀ HẠN CHẾ CỦA PHƢƠNG PHÁP BÌNH
PHƢƠNG NHỎ NHẤT TRONG MÔ HÌNH TUYẾN
2.3.1. Ƣu điểm
2.3.2. Hạn chế
2.4. MỘT SỐ TIÊU CHUẨN ĐÁNH GIÁ MÔ HÌNH TUYẾN
TÍNH
2.4.1. Các tiêu chuẩn đánh giá
a. Mức ý nghĩa
b. Phân phối Student
25. Nhận viết đề tài trọn gói – ZL: 0909 23 26 20–
Luanvanmaster.com
TẢI TÀI LIỆU KẾT BẠN ZALO : 0909 23 26 20
Định lý 2.1. (Xem [1]) Cho t tuân theo luật phân phối Student
26. Nhận viết đề tài trọn gói – ZL: 0909 23 26 20–
Luanvanmaster.com
TẢI TÀI LIỆU KẾT BẠN ZALO : 0909 23 26 20
18
với n bậc tự do
n1 . Khi đó:
(i) Hàm mật độ t là:
n1
1
f (t )
2
,t ( , ), ( n ) x
n1 x
. e dx.
n n1
2
.n t 2 0
2 1
n
(ii) Với n 1: E (t ) 0( f (t ) là hàm chẵn).
Với n 2 : D (t) n .
n 2
Định lý 2.2. (Xem [1]) Cho X tuân theo luật phân phối chuẩn
N ( , 2
) , ( x , x ,..., x ) ( n1) là mẫu của X. Khi đó đại lượng thống
1 2 n
t
kê x có phân phối Student với n-1 bậc tự do, trong đó
. n
s
1
n
s 2
(xk )2
.
x
n1k1
c. Phân phối Fisher
Định lý 2.3. (Xem [1]) Cho biến ngẫu nhiên X có phân phối
F
n ,n . Khi đó:
1 2
(i) Hàm mật độ của X là
n n n
n
1
2 nn
1 2
1
n
1 2
2 n
1
1 n 2
2
t 2
.1
1
t ,t 0.
f (t)
n1 n2 n
2
2 2
,t 0.
0
27. Nhận viết đề tài trọn gói – ZL: 0909 23 26 20–
Luanvanmaster.com
TẢI TÀI LIỆU KẾT BẠN ZALO : 0909 23 26 20
19
n 2.n 2
.( n n 2)
2 2 1 2
E(X) n2 2; D ( X ) ,n2 4.
n 2 n .( n 4).( n 2)2
2 1 2 2
Bây giờ ta chox1 , x2 ,..., xn1là mẫu của X,y1 , y2 ,..., yn2 là
mẫu của Y và
1
n1
1
n1 2
xi ; S1
2
xk ,
x x
n1 i1 n11k1
1
n
2
1
n
1
2
yi ; S 2
2
y k .
y y
n2 i1 n21k1
Định lý 2.4. (Xem [1]) Cho X và Y là các biến ngẫu nhiên độc
lập có phân phối chuẩn cùng phương sai (D(X) = D(Y)). Khi đó đại
lượng thống kê F
s2
1
có phân phối Fisher F .
s2
n11, n22
2
d. Chuẩn Cochran ( Z lt GPf ,n )
Định lý 2.5. (Xem [6]) Phương sai mẫu của loạt dữ liệu j được coi
là một giá trị ở mức ý nghĩa α nếu Ct vượt quá giới hạn trên giá trị quan
trọng CUL. CUL phụ thuộc vào α mức ý nghĩa mong muốn, số lượng
được coi là hàng loạt dữ liệu N, và số lượng các điểm dữ liệu
(n) mỗi chuỗi dữ liệu. Lựa chọn các giá trị cho CUL đã được lập
bảng ở mức ý nghĩa α = 0.01, α = 0.025, và α = 0.05. CUL cũng có
thể được tính toán từ:
1
N1
CUL (, n, N )1 .
F ( , ( n 1), ( N 1)( n1)
N
c
Trong đó
28. Nhận viết đề tài trọn gói – ZL: 0909 23 26 20–
Luanvanmaster.com
TẢI TÀI LIỆU KẾT BẠN ZALO : 0909 23 26 20
20
CUL : giới hạn trên giá trị quan trọng cho thử nghiệm một
chiều trên một thiết kế cân bằng.
α : mức ý nghĩa.
n : số điểm dữ liệu mỗi chuỗi dữ liệu.
Fc : giá trị quan trọng của tỷ lệ F Fisher; Fc có thể thu được từ
các bảng phân phối F hoặc sử dụng phần mềm máy tính cho chức
năng này.
2.4.2. Đánh giá kết quả nhận đƣợc bằng phƣơng pháp
bình phƣơng nhỏ nhất
a. Kiểm định các tham số aj và khoảng xác định sai lệch của
chúng
Khi hệ số aˆ j nào đó quá nhỏ, ta có quyền nghi ngờ aˆ j có thể
bằng không, tức là không tồn tại số hạng f j ( x1 ... xk ) trong hàm hồi
quy thu được. Tức là aˆ j khác không do sai số ngẫu nhiên gây ra. Ta
cần kiểm định xem aˆ j 0 hay aˆ j 0.
Nếu biểu thức sau tồn tại, tức là aˆ j thực sự khác 0.
aˆ j
t ( n m 1,1
),
2
S du m jj
trong đó: Sdu là phương sai dư, tính theo S( aˆ j ):
2
ˆ
s S ( a)
,
du
n m1
ở đây n là số thử nghiệm; m là số các thông số cần xác định, trừ
thông số a0 ,
29. Nhận viết đề tài trọn gói – ZL: 0909 23 26 20–
Luanvanmaster.com
TẢI TÀI LIỆU KẾT BẠN ZALO : 0909 23 26 20
21
và t ( n m 1,1 ) là phân vị 1 của luật phân bố Student với
2 2
( n m1) bậc tự do.
Đồng thời ta có khoảng sai lệch của aˆ j với độ tin cậy (1)
là:
1) a .x ( n m1; 1 ).
aˆ
j
Sdu
m jj
t ( n m 1; j
aˆj
Sdu
mjj
2 2
với m jj
là số hạng thứ jj của ma trận M1
ma trận nghịch đảo của ma
trận M F T
F .
b. Kiểm tra bằng nhau của phương sai 2
D( yi )
Các ước lượng 2
thường dùng chưa dựa vào một giả thiết nào
về dạng của mối quan hệ giữa biến ra y và biến vào xi. Khi thí
nghiệm được lặp lại r lần, phương sai của y khi đó gọi là phương sai
tái sinh, kí hiệu (Sts):
S 2 2
D( y).
ts
Nếu mỗi thí nghiệm i, xác định tại điểm thí nghiệm xi lặp lại r
1
r
lần giá trị đầu ra yi1 ... yir . Tính S i
2
( y
ij
yi )2
trong đó
r1j1
1 r
y
ij
.
yi
r j1
Phương sai tái sinh của biến ra y với số lần lặp lại r được định
nghĩa:
1
n
1
n r
S ts
2
S1
2
( y
ij
yi ) 2
.
n n ( r1)
1 i1 j1
30. Nhận viết đề tài trọn gói – ZL: 0909 23 26 20–
Luanvanmaster.com
TẢI TÀI LIỆU KẾT BẠN ZALO : 0909 23 26 20
22
Phương sai Sts có bậc tự do là n(r-1) được coi là một ước lượng
của 2
D( y) nếu phương sai của y tại điểm thí nghiệm xi được coi
là như nhau.
Cần kiểm định giả thuyết đó theo tiêu chuẩn Cochran.
Giả sử biến ngẫu nhiên có max Si
2
C .
n t
Si
2
1
So sánh Ct với C ( r 1; n;1) bằng bảng phân vị Cochran.
Nếu Ct C ( r 1; n;1) công nhận giả thiết Ho, có nghĩa là
phương sai của y gần đúng bằng 2
.
Nếu C C ( r 1; n;1) thì bác bỏ giả Ho, hay 2
của y khác
t
nhau.
c. Kiểm tra sự tương hợp của hàm hồi
quy Giả sử rằng : S du
2
Sts
2
thì ta có:
F Sdu
2
tuân theo phân phối Fisher – Snedekor.
S 2
t
ts
Nếu
Sdu
2
F ( n m 1; n ( r 1);1),
S2
ts
thì bác bỏ sự tương hợp của hàm hồi quy với mức ý nhĩa.
Ngược lại nếu:
Sdu
2
F ( n m 1; n ( r 1);1)
S 2
ts
31. Nhận viết đề tài trọn gói – ZL: 0909 23 26 20–
Luanvanmaster.com
TẢI TÀI LIỆU KẾT BẠN ZALO : 0909 23 26 20
23
thì coi như thực nghiệm chấp nhận hàm số hồi quy với mức ý nghĩa
. Sự chênh lệch của Ft và F nhiều hay ít, có sự tương hợp mạnh hay
yếu; cùng kết quả thực nghiệm cùng hồi quy, nhưng thay đổi mức ý
nghĩa có thể từ công nhận tương hợp sang không tương hợp.
d. Tìm khoảng sai lệch yi
y a j f j ( xi ... xik ).m
j0
Ta có S 2
D( y ) 2
u S 2
u , trong đó uii
là số hạng thứ
y i ii du ii
i
ii của ma trận U, với:
U F .M1
.F T
(u )
nn
.
ij
m m
uii f j (xi )m ij
f j (xi ).
i 0 j0
t yi
Tính tỷ số: yi ,
t
S
du
u
ii
so sánh tt với t(n-m-1) bậc tự do theo phân phối Student, suy ra
khoảng sai lệch của y sẽ là:
y S t ( n m 1; 1 ) y y S 1).
u u t ( n m1;
i duii
2 ii duii
2
32. Nhận viết đề tài trọn gói – ZL: 0909 23 26 20–
Luanvanmaster.com
TẢI TÀI LIỆU KẾT BẠN ZALO : 0909 23 26 20
24
KẾT LUẬN
Sau một thời gian nghiên cứu thực hiện, luận văn đã hoàn
thành được những mục đích và nhiệm vụ như sau:
* Trình bày một số khái niệm, định lý về sự liên tục của hàm
nhiều biến; sơ lược phép tính vi phân hàm nhiều biến; điều kiện đạt
cực trị của hàm nhiều biến; ma trận và các tính chất liên quan; dẫn
nhập về hệ phương trình tuyến tính.
* Trình bày về nội dung của phương pháp bình phương nhỏ
nhất; bài toán phương pháp bình phương nhỏ nhất để xấp xỉ hàm
trong thực nghiệm; ưu điểm và hạn chế của phương pháp bình
phương nhỏ nhất trong mô hình tuyến tính và một số tiêu chuẩn đánh
giá mô hình tuyến tính. Ứng dụng của phương pháp bình phương nhỏ
nhất.
* Luận văn là một tài liệu tham khảo hữu ích cho bạn đọc yêu
thích tìm hiểu về nội dung phương pháp bình phương nhỏ nhất và
ứng dụng.
* Trong thời gian thực hiện luận văn không thể tránh khỏi
những sai sót, kính mong các thầy đóng góp ý kiến để luận văn thêm
hoàn thiện.