Regresi Linier Berganda

            Ir. Zakaria Ibr.,MM

                     Dosen Luar Biasa
                    Fakultas Pertanian
          Universitas Samudra Langsa


1
Regresi Linier Berganda
Model regresi linier berganda melibatkan lebih dari satu variabel
bebas. Modelnya :
        Y = β 0 + β1 X 1 + β 2 X 2 + ... + β k X k
Dimana
      Y = variabel terikat
      Xi = variabel bebas ( i = 1, 2, 3, …, k)
       β0 = intersep
       βi = koefisien regresi ( i = 1, 2, 3, …, k)
Model penduganya adalah
            Y = b0 + b1 X 1 + b2 X 2 + ... + bk X k

        2
Regresi Linier Berganda

Misalkan model regresi dengan kasus 2 variabel
bebas X1 dan X2 maka modelnya :
      Y = β 0 + β1 X 1 + β 2 X 2

Sehingga setiap pengamatan { ( X 1i , X 2i ; Yi ) ; i = 1, 2 ,..., n}
Akan memenuhi persamaan
     Y = β 0 + β1 X 1 + β 2 X 2 + ε i

        3
Menaksir Koefisien Regresi
            Dengan Menggunakan Matriks

   Dari hasil Metode Kuadrat Terkecil didapatkan
   persamaan normal :

    nb0 + b1 ∑ X 1i + b2 ∑ X 2i + ... + bk ∑ X ki = ∑ Yi

b0 ∑ X 1i + b1 ∑ X 1i +b2 ∑ X 1i X 2i + ... + bk ∑ X 1i X ki = ∑ X 1iYi
                     2


   ...

b0 ∑ X ki + b1 ∑ X ki X 1i +b2 ∑ X ki X 2i + ... + bk ∑ X ki = ∑ X kiYi
                                                          2



            4
Menaksir Koefisien Regresi
       Dengan Menggunakan Matriks

Tahapan perhitungan dengan matriks :
1. Membentuk matriks A, b dan g

       n         ∑ X1i        ∑ X 2i       ...    ∑ X ki 
                                                            
       ∑ X 1i    ∑ X1i       ∑ X1i X 2i          ∑ X1i X ki 
                        2
                                            ...
   A=
       ...        ...           ...        ...     ...       
                                                             
      ∑ X ki    ∑ X ki X1i   ∑ X ki X 2i          ∑ X ki
                                                          2
                                           ...               
                                                              


       5
Menaksir Koefisien Regresi
Dengan Menggunakan Matriks


       b0         g 0 = ∑ Yi 
       b                         
                     g1 = ∑ X 1iYi 
    b=  1      g=
        ...             ...      
                                 
       bk         g k = ∑ X kiYi 
                                   

6
Menaksir Koefisien Regresi
      Dengan Menggunakan Matriks

2.   Membentuk persamaan normal dalam
     bentuk matriks
            Ab=g

3.   Perhitungan matriks koefisien b
            b = A-1 g


      7
Metode Pendugaan Parameter
       Regresi
Dengan Metode Kuadrat Terkecil, misalkan model terdiri dari 2
variabel bebas
       n                  n
      ∑ ei       = ∑ ( Yi − b0 − b1 X 1i − b2 X 2i )
             2                                             2

      i =1               i =1
Tahapan pendugaannya :
1. Dilakukan turunan pertama terhadap b0 , b1 dan b2
              ∂ ∑ ei (          2
                                      )
                       = −2( Yi − b0 − b1 X 1i − b2 X 2i )
                ∂b0
                 (
             ∂ ∑ ei
                    2
                                  )
                      = −2( Yi − b0 − b1 X 1i − b2 X 2i ) X 1i
               ∂b1
                 (
             ∂ ∑ ei
                              2
                                  )
                    = −2( Yi − b0 − b1 X 1i − b2 X 2i ) X 2i
       8       ∂b2
Metode Pendugaan
      Parameter Regresi
2. Ketiga persamaan hasil penurunan disamakan
   dengan nol
          nb0 + b1 ∑ X i1 + b2 ∑ X i 2 = ∑ Yi
          b0 ∑ X 1i + b1 ∑           + b2 ∑ X 1i X i 2 = ∑ X 1iYi
                                 2
                             X i1

          b0 ∑ X 2i + b1 ∑ X i1 X 2i + b2 ∑ X i 2 = ∑ X 2iYi
                                                   2




      9
Metode Pendugaan
      Parameter Regresi
3. Nilai b1 dan b2 dapat diperoleh dengan memakai
   aturan-aturan dalam matriks
                  J X 2 X 2 J X 1Y − J X 1 X 2 J X 2Y
           b1 =
                                       (
                  J X1 X1 J X 2 X 2 − J X1 X 2    )   2



                  J X 1 X 1 J X 2Y − J X 1 X 2 J X 1Y
           b2 =
                                           (
                   J X1 X1 J X 2 X 2 − J X1 X 2       )   2


           b0 = Y − b1 X 1 − b2 X 2
      10
Uji Kecocokan Model

1.   Dengan Koefisien Determinasi
              2  JKR
             R =
                 JKT
R2 menunjukkan proporsi variasi total dalam respon Y
yang dapat diterangkan oleh model

             R2 = r
r merupakan koefisien korelasi antara Y dengan
kelompok X1 , X2 , X3 , … , Xk
        11
Uji Kecocokan Model

2. Dengan Pendekatan Analisis Ragam
Tahapan Ujinya :
1. Hipotesis =

     H0 : β = 0
       H1 : β ≠ 0
     dimana
     β = matriks [ β0, β1, β2, … , βk ]
       12
Uji Kecocokan Model

2.   Tabel Analisis Ragam
Komponen     SS      db            MS           Fhitung
 Regresi
Regresi      SSR     k       MSR=SSR / k        MSR
                                                 s2
Eror         SSE n – k – 1   s2 = SSE / n-k-1
Total        SST   n–1


        13
Uji Kecocokan Model
                                     n     ∧   __
Dimana :
           SSR = SST − SSE = ∑ ( y i − y ) 2
                                    i −1
                    n           ∧
           SSE = ∑( yi − yi ) 2
                   i −1
                   n       __
           SST = ∑ ( yi − y ) 2
                  i −1




  14
Uji Kecocokan Model

3.   Pengambilan Keputusan

H0 ditolak jika   Fhitung > Ftabel(k , n-k-1)
pada taraf kepercayaan α




     15
Uji Parsial Koefisien Regresi

Tahapan Ujinya :
1. Hipotesis =

     H 0 : βj = 0
     H 1 : βj ≠ 0
   dimana βj merupakan koefisien yang akan
   diuji


     16
Uji Parsial Koefisien Regresi

2. Statistik uji :
                     bj − β j
              t=
                       sbj
Dimana :                                          s
                                sbj =
    bj = nilai koefisien bj
                                                      (
                                         J X j X j 1 − r12
                                                         2
                                                                 )
     s = SSE / n − k − 1
                                           J X1 X 2
                                r12 =
                                        ( J )( J
                                          X1 X1       X2X2   )
      17
Uji Parsial Koefisien Regresi

3. Pengambilan keputusan

H0 ditolak jika   thitung > t α/2(db= n-k-1)
pada taraf kepercayaan α




      18

Fp unsam regresi linier berganda 1

  • 1.
    Regresi Linier Berganda Ir. Zakaria Ibr.,MM Dosen Luar Biasa Fakultas Pertanian Universitas Samudra Langsa 1
  • 2.
    Regresi Linier Berganda Modelregresi linier berganda melibatkan lebih dari satu variabel bebas. Modelnya : Y = β 0 + β1 X 1 + β 2 X 2 + ... + β k X k Dimana Y = variabel terikat Xi = variabel bebas ( i = 1, 2, 3, …, k) β0 = intersep βi = koefisien regresi ( i = 1, 2, 3, …, k) Model penduganya adalah Y = b0 + b1 X 1 + b2 X 2 + ... + bk X k 2
  • 3.
    Regresi Linier Berganda Misalkanmodel regresi dengan kasus 2 variabel bebas X1 dan X2 maka modelnya : Y = β 0 + β1 X 1 + β 2 X 2 Sehingga setiap pengamatan { ( X 1i , X 2i ; Yi ) ; i = 1, 2 ,..., n} Akan memenuhi persamaan Y = β 0 + β1 X 1 + β 2 X 2 + ε i 3
  • 4.
    Menaksir Koefisien Regresi Dengan Menggunakan Matriks Dari hasil Metode Kuadrat Terkecil didapatkan persamaan normal : nb0 + b1 ∑ X 1i + b2 ∑ X 2i + ... + bk ∑ X ki = ∑ Yi b0 ∑ X 1i + b1 ∑ X 1i +b2 ∑ X 1i X 2i + ... + bk ∑ X 1i X ki = ∑ X 1iYi 2 ... b0 ∑ X ki + b1 ∑ X ki X 1i +b2 ∑ X ki X 2i + ... + bk ∑ X ki = ∑ X kiYi 2 4
  • 5.
    Menaksir Koefisien Regresi Dengan Menggunakan Matriks Tahapan perhitungan dengan matriks : 1. Membentuk matriks A, b dan g  n ∑ X1i ∑ X 2i ... ∑ X ki     ∑ X 1i ∑ X1i ∑ X1i X 2i ∑ X1i X ki  2 ... A=  ... ... ... ... ...    ∑ X ki ∑ X ki X1i ∑ X ki X 2i ∑ X ki 2  ...   5
  • 6.
    Menaksir Koefisien Regresi DenganMenggunakan Matriks b0   g 0 = ∑ Yi  b    g1 = ∑ X 1iYi  b=  1 g=  ...   ...      bk   g k = ∑ X kiYi    6
  • 7.
    Menaksir Koefisien Regresi Dengan Menggunakan Matriks 2. Membentuk persamaan normal dalam bentuk matriks Ab=g 3. Perhitungan matriks koefisien b b = A-1 g 7
  • 8.
    Metode Pendugaan Parameter Regresi Dengan Metode Kuadrat Terkecil, misalkan model terdiri dari 2 variabel bebas n n ∑ ei = ∑ ( Yi − b0 − b1 X 1i − b2 X 2i ) 2 2 i =1 i =1 Tahapan pendugaannya : 1. Dilakukan turunan pertama terhadap b0 , b1 dan b2 ∂ ∑ ei ( 2 ) = −2( Yi − b0 − b1 X 1i − b2 X 2i ) ∂b0 ( ∂ ∑ ei 2 ) = −2( Yi − b0 − b1 X 1i − b2 X 2i ) X 1i ∂b1 ( ∂ ∑ ei 2 ) = −2( Yi − b0 − b1 X 1i − b2 X 2i ) X 2i 8 ∂b2
  • 9.
    Metode Pendugaan Parameter Regresi 2. Ketiga persamaan hasil penurunan disamakan dengan nol nb0 + b1 ∑ X i1 + b2 ∑ X i 2 = ∑ Yi b0 ∑ X 1i + b1 ∑ + b2 ∑ X 1i X i 2 = ∑ X 1iYi 2 X i1 b0 ∑ X 2i + b1 ∑ X i1 X 2i + b2 ∑ X i 2 = ∑ X 2iYi 2 9
  • 10.
    Metode Pendugaan Parameter Regresi 3. Nilai b1 dan b2 dapat diperoleh dengan memakai aturan-aturan dalam matriks J X 2 X 2 J X 1Y − J X 1 X 2 J X 2Y b1 = ( J X1 X1 J X 2 X 2 − J X1 X 2 ) 2 J X 1 X 1 J X 2Y − J X 1 X 2 J X 1Y b2 = ( J X1 X1 J X 2 X 2 − J X1 X 2 ) 2 b0 = Y − b1 X 1 − b2 X 2 10
  • 11.
    Uji Kecocokan Model 1. Dengan Koefisien Determinasi 2 JKR R = JKT R2 menunjukkan proporsi variasi total dalam respon Y yang dapat diterangkan oleh model R2 = r r merupakan koefisien korelasi antara Y dengan kelompok X1 , X2 , X3 , … , Xk 11
  • 12.
    Uji Kecocokan Model 2.Dengan Pendekatan Analisis Ragam Tahapan Ujinya : 1. Hipotesis = H0 : β = 0 H1 : β ≠ 0 dimana β = matriks [ β0, β1, β2, … , βk ] 12
  • 13.
    Uji Kecocokan Model 2. Tabel Analisis Ragam Komponen SS db MS Fhitung Regresi Regresi SSR k MSR=SSR / k MSR s2 Eror SSE n – k – 1 s2 = SSE / n-k-1 Total SST n–1 13
  • 14.
    Uji Kecocokan Model n ∧ __ Dimana : SSR = SST − SSE = ∑ ( y i − y ) 2 i −1 n ∧ SSE = ∑( yi − yi ) 2 i −1 n __ SST = ∑ ( yi − y ) 2 i −1 14
  • 15.
    Uji Kecocokan Model 3. Pengambilan Keputusan H0 ditolak jika Fhitung > Ftabel(k , n-k-1) pada taraf kepercayaan α 15
  • 16.
    Uji Parsial KoefisienRegresi Tahapan Ujinya : 1. Hipotesis = H 0 : βj = 0 H 1 : βj ≠ 0 dimana βj merupakan koefisien yang akan diuji 16
  • 17.
    Uji Parsial KoefisienRegresi 2. Statistik uji : bj − β j t= sbj Dimana : s sbj = bj = nilai koefisien bj ( J X j X j 1 − r12 2 ) s = SSE / n − k − 1 J X1 X 2 r12 = ( J )( J X1 X1 X2X2 ) 17
  • 18.
    Uji Parsial KoefisienRegresi 3. Pengambilan keputusan H0 ditolak jika thitung > t α/2(db= n-k-1) pada taraf kepercayaan α 18