Chương 4 Hồi quy bội

1 CHƯƠNG 4 HỒI QUY BỘI 4.1 Môâ hình hồi quy ba biến Mô hình hồi quy hai biến được trình bày ở chương 3 thường là không phù hợp trong thực tiễn. Có nhiều biến tác động đến biến phụ thuộc Y. thí dụ, khi nghiên cứu nhu cầu một loại hàng hoá nào đó (Y), thì nhu cầu này phụ thuộc vào nhiều yếu tố, trước hết là: giá của bản thân hàng hóa đó, thu nhập của người tiêu dùng, giá của hàng hoá thay thế hàng hóa này, …Do đó, cần phải mở rộng mô hình hồi quy hai biến thành mô hình có chứa nhiều biến hơn, ở đây là mô hình hồi quy ba biến. Bạn đọc nhớ rằng mô hình hồi quy tuyến tính được hiểu là tuyến tính đối với tham số, nó có thể hoặc không phải là tuyến tính đối với biến số. Mô hình hồi quy ba biến có dạng sau: Y = β1 + β2 X2i + β3 X 3i + Ui Ý nghĩa của các hệ số β2, β3 - β2 : nghĩa là khi chúng ta giữ nguyên các yếu tố khác thì giá trị trung bình của biến phụ thuộc Y sẽ thay đổi (tăng hoặc giảm tuỳ thuộc vào dấu của β) β2 đơn vị cho mỗi đơn vị tăng của yếu tố X2. - β3: nghĩa là khi chúng ta giữ nguyên các yếu tố khác thì giá trị trung bình của biến phụ thuộc Y sẽ thay đổi (tăng hoặc giảm tuỳ thuộc vào dấu của β) β3 đơn vị cho mỗi đơn vị tăng của yếu tố X3. Như vậy, các hệ số hồi quy riêng (hệ số góc) phản ánh ảnh hưởng của một biến giải thích đối với giá trị trung bình của biến phụ thuộc khi các giá trị của biến giải thích khác không đổi. 2 4.2 Các giả thuyết của mô hình Giả thuyết 1: mối quan hệ giữa Y và X là tuyến tính, biến (các biến) giải thích là phi ngẫu nhiên, tức là các giá trị của chúng là các số đã được xác định. Giả thuyết này không có gì mới, vì phân tích hồi quy được đề cặp là phân tích hồi quy có điều kiện, phụ thuộc vào các giá trị X đã cho. Giả thuyết 2: kỳ vọng của các yếu tố ngẫu nhiên Ui bằng không, tức là: E(Ui /X2i, X3i ) = 0 Giả thuyết này có nghĩa là các yếu tố không có trong mô hình, Ui đại diện cho chúng, không ảnh hưởng hệ thống đến giá trị trung bình của Y. Giả thuyết 3: phương sai bằng nhau (phương sai thuần nhất) hay là một hằng số cho tất cả quan sát, tức là Var(Ui/ X2i, X3i) = δ2 Giả thuyết 4: Không có sự tương quan giữa các Ui hay các biến số ngẫu nhiên Ui là độc lập về mặt thống kê. Cov(Ui, Uj) = 0 Vi ≠ j Giả thuyết này có nghĩa là Ui là ngẫu nhiên. Về mặt hình học có nghĩa là nếu như có một giá trị U nào đó lớn hơn (nhỏ hơn) giá trị trung bình thì không có nghĩa giá trị khác cũng lớn hơn (nhỏ hơn) giá trị trung bình. Giả thuyết 5: số hạng sai số có phân phối chuẩn Giả thuyết 6: giữa các biến giải thích không có quan hệ tuyến tính 4.3 ước lượng tham số và kiểm định các giả thuyết mô hình hồi quy ba biến 4.3.1 ước lượng các tham số 3 Giả sử ta có biến Y phụ thuộc vào 2 biến độc lập X2, X3. Nếu giá trị của 2 biến độc lập X2, X3 lần lượt là x2i, x3i thì giá trị của biến phụ thuộc ỹi thể hiện qua mô hình hồi quy bội dưới dạng tuyến tính như sau: ỹi =  + .x2i + .x3i + i Trong đó: + : là giá trị ước lượng của biến là giá trị ước lượng của biến Y khi 2 biến X có giá trị bằng không. + j: (j = 2,3 được gọi là các hệ số hồi quy riêng, thể hiện mức thay đổi của biến Y khi biến Xj thay đổi một đơn vị, với giả định là các biến khác không thay đổi. Như vậy, j cho thấy ảnh hưởng của riêng biến Xj đến Y. + i: thể hiện sự ảnh hưởng của các nhân tố khác Xj mà ta không nghiên cứu đến biến Y. Ở các nước đang phát triển, tốc độ tăng trưởng của nền kinh tế được xem là phụ thuộc vào tốc độ tăng trưởng của ngành nông nghiệp, tốc độ tăng trưởng của kim ngạch xuất khẩu. Ví du: Để nghiên cứu sự phụ thuộc tuyến tính của tốc độ tăng trưởng của nền kinh tế vào tốc độ tăng trưởng của nông nghiệp, tốc độ tăng trưởng của kim ngạch xuất khẩu, người ta tiến hành thu thập số liệu ở 48 nước đang phát triển và có số liệu sau: (%) X2 (%) X3 (%) Y (%) X2 (%) X3 (%) 1,3 1 0,4 4,9 9,8 -2,1 3,4 1,4 0,1 1,8 5,6 2,2 -2,7 -6 -3,6 13,6 27,3 2,6 4,1 -5 2,1 7,7 9,3 -1,7 2,3 1,2 2,7 3 3,3 2 8,7 -2 5,6 2 6,2 -1,7 4 2 5,8 5,2 -1,1 0,2 1,1 -12 -1,6 0,5 2,2 8 6,5 0,2 7,8 2,5 -0,2 6,1 2,9 2,3 3 2,9 -2,3 0,3 1,4 4,8 -0,4 1,9 -3,5 3,1 3,3 0,1 5,3 2,3 3,1 10,3 -0,6 -9,5 4,4 9,2 -6,3 12 -7,2 -5,5 -2,5 1,6 4,7 10,9 -0,6 8,4 10,4 4,9 7,9 -19 5,4 5,8 3,9 5,6 6,9 -4,6 -2,6 1,1 4,6 -0,6 8,2 4,1 12,6 4,1 0,6 2 0 -2,6 -3,4 4,7 3,9 -3,9 1,3 0,8 1,7 3,9 3 2,5 1,9 0,9 7,9 2,8 2,8 0,5 0,4 -1,3 7,9 -0,2 -2,5 6,4 11,6 -9,8 -6,6 3,8 -3,5 2 3,8 1,3 11,7 -0,9 -2,1 -3,1 6,9 3,4 -7,9 Trong đó: Y %: tốc độ tăng trưởng của nền kinh tế. X2 %: tốc độ tăng trưởng của nông nghiệp. X3 %: tốc độ tăng trưởng của kim ngạch xuất khẩu. Ta có phương trình hồi quy bội mẫu như sau: ỹi =  + .x2i + .x3i Dựa vào số liệu trên ta xử lý bằng phần mềm Excel hoặc SPSS cho ta kết xuất sau: 5 Kết quả kết xuất từ Excel SUMMARY OUTPUT Multiple R 0,5674 R Square 0,3219 Adj. R Square 0,2918 Standard Error 3,7874 Observations 48 ANOVA df SS MS F Sig. F Regression 2 306,4610 153,2305 10,6825 0,0002 Residual 45 645,4857 14,3441 Total 47 951,9467 Co. St. Error t Stat P-value Lower 95% Intercept 0,60754 0,74568 0,81475 0,41951 -0,89434 X Variable 2 0,53146 0,21177 2,50961 0,01575 0,10493 X Variable 3 0,28920 0,07089 4,07937 0,00018 0,14642 Qua bảng kết xuất trên ta được hàm hồi quy sau: ỹi = 0,607 + 0,531x2 + 0,289x3 Nhận xét: Tốc độ tăng trưởng của nền kinh tế tăng lên 0,531% khi tốc độ tăng trưởng của nông nghiệp tăng 1%, với điều kiện các yếu tố khác không thay đổi. Tốc độ tăng trưởng của nền kinh tế tăng lên 0,289% khi tốc độ tăng trưởng của kim ngạch xuất khẩu tăng 1%, với điều kiện các yếu tố khác không thay đổi. Nhìn chung tốc độ tăng trường của nông nghiệp và tốc độ tăng trưởng của kim ngạch xuất khẩu tác động thuận với tốc độ tăng trưởng kinh tế. 4.3.2 kiểm định F, hệ số xác định, hệ số xác định đã điều chỉnh trong hồi quy bội 6 a. Kiểm định F: dùng để xem xét giả thuyết về sự tồn tại của mối liên hệ tuyến tính giữa biến phụ thuộc Y với bất kỳ một biến độc lập Xj nào đó. Giả thuyết: Ho: 2 = 3 = 0 H1: không phải tất cả j = 0 (có ít nhất một j  0 ). Nếu giả thuyết Ho đúng, ta có thể nói rằng không tồn tại mối liên hệ tuyến tính giữa Y với bất kỳ một biến Xj nào đó. Ngược lại, nếu giả thuyết Ho bị bác bỏ, ta kết luận có mối liên hệ tuyến tính giữa Y với ít nhất một trong các biến Xj. Bảng ANOVA trong phân tích hồi quy tuyến tính bội Biến thiên Tổng các chênh lệch bình phương Bậc tự do Trung bình các chênh lệch bình phương Giá trị kiểm định F Hồi quy SSR k MSR=SSR/k Fk,n-2 =MSR/MSE Sai số SSE n-(k+1) MSE=SSE/n- (k+1) Tổng cộng TSS n-1 Trở lại ví dụ trên, ta có: ANOVA df SS MS F Sig. F Regression 2 306,4610 153,2305 10,6825 0,0002 Residual 45 645,4857 14,3441 Total 47 951,9467 Qua bảng ta nhận thấy giá trị p của kiểm định F là rất nhỏ (Sig. = .000 ) do đó ta có thể bác bỏ giả thuyết Ho cho rằng cả ba hệ số 2, 3 đều bằng không, nghĩa là có thể kết luận rằng tồn tại mối liên hệ tuyến tính giữa tốc độ tăng trưởng kinh tế với ít nhất một trong 2 yếu tố: tăng trưởng của nông nghiệp, tăng trưởng của xuất khẩu. b. Hệ số xác định R2 7 SST SSE SST SSRR −== 12 R2 đo lường phần biến thiên của Y có thể có thể được giải thích bởi các biến độc lập X, là đại lượng thể hiện sự thích hợp của mô hình hồi quy bội. R2 càng lớn thì mô hình hồi quy bội đã xây dựng được xem là càng thích hợp, càng có ý nghĩa trong việc giải thích sự biến thiên của Y. Theo ví dụ trên , Excel cho ta kết xuất sau: Multiple R 0,5674 R Square 0,3219 Adj. R Square 0,2918 Standard Error 3,7874 Observations 48 R2 (R Square) = 0,321 = 32,1% nghĩa là chỉ có 32,1% biến thiên của tốc độ tăng trưởng kinh tế được giải thích bởi mối liên hệ tuyến tính với tăng trưởng trong nông nghiệp, xuất khẩu. c. Kiểm định giả thuyết về các hệ số hồi quy: (kiểm định t) Trong kiểm định F chỉ cho ta biết tồn tại ít nhất một j  0. Trong kiểm định T sẽ cho biết biến Xj nào không có ảnh hưởng đến Y, Xj nào có ý nghĩa trong việc giải thích biến thiên của Y và do vậy nên được thể hiện trong mô hình hồi quy. Ta đặt giả thuyết : Ho: j = 0 H1: j  0 bjS bjtj = Giá trị kiểm định: Quy tắc quyết định: Bác bỏ giả thuyết Ho với mức ý nghiã  nếu: tj > t n-(k+1), /2 8 Trở lại ví dụ trên , Excel cho ta kết xuất: Co. St. Error t Stat P-value Lower 95% Intercept 0,60754 0,74568 0,81475 0,41951 -0,89434 X Variable 2 0,53146 0,21177 2,50961 0,01575 0,10493 X Variable 3 0,28920 0,07089 4,07937 0,00018 0,14642 Dependent Variable: tang truong nen kinh te Theo ví dụ trên các giá trị p của kiểm định được thể hiện trong bảng khá nhỏ và như vậy với mức ý nghĩa  = 5%, ta có thể bác bỏ giả thuyết cho rằng ; 2 = 0; 3 = 0. Hay nói cách khác là cả 2 yếu tố tăng trưởng của nông nghiệp, xuất khẩu đều có ý nghĩa trong việc giải thích biến thiên của tốc độ tăng trưởng của nền kinh tế./. 4.4 ước lượng tham số và kiểm định các giả thuyết mô hình hồi quy trên ba biến 4.4.1 ước lượng các tham số Giả sử ta có biến Y phụ thuộc vào k biến độc lập X1, X2, … ,Xk. Nếu giá trị của k biến độc lập X1, X2, … ,Xk lần lượt là x1i, x2i, … , xki, thì giá trị của biến phụ thuộc ỹi thể hiện qua mô hình hồi quy bội dưới dạng tuyến tính như sau: ỹi =  + 1.x1i + 2.x2i + … + k.xki + i Trong đó: + : là giá trị ước lượng của biến là giá trị ước lượng của biến Y khi k biến X có giá trị bằng không. + j: (j = 1,2,3,…,k) được gọi là các hệ số hồi quy riêng, thể hiện mức thay đổi của biến Y khi biến Xj thay đổi một đơn vị, với giả định là các biến khác không thay đổi Như vậy, j cho thấy ảnh hưởng của riêng biến Xj đến Y. + i: thể hiện sự ảnh hưởng của các nhân tố khác Xj mà ta không nghiên cứu đến biến Y. Ví du: Để nghiên cứu sự phụ thuộc tuyến tính của tốc độ tăng trưởng của nền kinh tế vào tốc độ tăng trưởng của nông nghiệp, tốc độ tăng trưởng của kim ngạch xuất khẩu 9 và tỷ lệ lạm phát, người ta tiến hành thu thập số liệu ở 48 nước đang phát triển và có số liệu sau: Y (%) X1 (%) X2 (%) X3 (%) Y (%) X1 (%) X2 (%) X3 (%) 1,3 1 0,4 4,9 9,8 -2,1 2 5,8 5,2 -1,1 0,2 1,1 -12 -1,6 0,5 2,2 8 6,5 0,2 7,8 2,5 -0,2 6,1 2,9 3,4 1,4 0,1 1,8 5,6 2,2 2,3 3 2,9 -2,3 0,3 1,4 4,8 -0,4 1,9 -3,5 3,1 3,3 0,1 5,3 2,3 3,1 10,3 -0,6 -2,7 -6 -3,6 13,6 27,3 2,6 -9,5 4,4 9,2 -6,3 12 -7,2 -5,5 -2,5 1,6 4,7 10,9 -0,6 8,4 10,4 4,9 7,9 -19 5,4 13 10,5 15,9 3,2 5,4 5,2 8,7 1,4 3 14,9 20,3 19,8 8,6 11,3 19 1,9 37,3 8,9 29,5 8,1 22,6 20,2 -1,3 7,5 4,1 -5 2,1 7,7 9,3 -1,7 5,8 3,9 5,6 6,9 -4,6 -2,6 1,1 4,6 -0,6 8,2 4,1 12,6 4,1 0,6 2 0 -2,6 -3,4 2,3 1,2 2,7 3 3,3 2 4,7 3,9 -3,9 1,3 0,8 1,7 3,9 3 2,5 1,9 0,9 7,9 2,8 2,8 0,5 0,4 -1,3 7,9 8,7 -2 5,6 2 6,2 -1,7 -0,2 -2,5 6,4 11,6 -9,8 -6,6 3,8 -3,5 2 3,8 1,3 11,7 -0,9 -2,1 -3,1 6,9 3,4 -7,9 9,5 1,1 11,2 8,9 7,5 18,2 2,1 3,4 13,9 6,4 21,5 6,7 7,7 8,6 11,5 7,8 5,6 3,8 9,9 23,3 33,5 32,6 7,7 45,4 10 Trong đó: Y %: tốc độ tăng trưởng của nền kinh tế. X1 %: tốc độ tăng trưởng của nông nghiệp. X2 %: tốc độ tăng trưởng của kim ngạch xuất khẩu. X3 %: tỷ lệ lạm phát. Ta có phương trình hồi quy bội mẫu như sau: ỹ =  + 1X1 + 2X2 + 3X3 Dùng SPSS để xử lý số liệu ta được kết xuất sau: Coefficients Unstandardized Standardized Coefficients Coefficients t Sig. Model B Std. Error Beta (Constant) 2.499 1.005 - 2.488 .017 tang truong nong nghiep .428 .212 .249 2.022 .049 tang truong xuat khau .250 .072 .430 3.479 .001 ty le lam phat -.133 .055 -.300 -2.433 .019 Dependent Variable: tang truong nen kinh te Từ bảng kết xuất cho thấy:  = 2,499 1 = 0,428 2 = 0,25 3 = -0,133 Như vậy, ta có phương trìng hồi quy bội như sau: ỹ = 2,499 + 0,428X1 + 0,25X2 - 0,133X3 Ta có thể nói rằng: với một tốc độ tăng trưởng kim ngạch xuất khẩu và tỷ lệ lạm phát không đổi nào đó, 1% tăng trưởng của ngành nông nghiệp sẽ kéo theo 0,428% tăng trưởng của nền kinh tế. Tương tự, 1% tăng trưởng của kim ngạch xuất khẩu sẽ kéo theo 0,25% tăng trưởng của nền kinh tế với tốc độ tăng trưởng của nông nghiệp và tỷ lệ lạm phát không đổi. Và cuối cùng, tỷ lệ lạm phát tăng 1% sẽ làm cho tốc độ tăng 11 trưởng của nền kinh tế giảm 0,133% với tốc độ tăng trưởng của nông nghiệp và kim ngạch xuất khẩu không đổi. 4.4.2 Kiểm định F, hệ số xác định, hệ số xác định đã điều chỉnh trong hồi quy bội a. Kiểm định F: dùng để xem xét giả thuyết về sự tồn tại của mối liên hệ tuyến tính giữa biến phụ thuộc Y với bất kỳ một biến độc lập Xj nào đó. Giả thuyết: Ho: 1 = 2 = … = k = 0 H1: không phải tất cả j = 0 (có ít nhất một j  0 ). Nếu giả thuyết Ho đúng, ta có thể nói rằng không tồn tại mối liên hệ tuyến tính giữa Y với bất kỳ một biến Xj nào đó. Ngược lại, nếu giả thuyết Ho bị bác bỏ, ta kết luận có mối liên hệ tuyến tính giữa Y với ít nhất một trong các biến Xj. Bảng ANOVA trong phân tích hồi quy tuyến tính bội Biến thiên Tổng các chênh lệch bình phương Bậc tự do Trung bình các chênh lệch bình phương Giá trị kiểm định F Hồi quy SSR k MSR=SSR/k Fk,n-2 =MSR/MSE Sai số SSE n-(k+1) MSE=SSE/n- (k+1) Tổng cộng TSS n-1 Trở lại ví dụ trên, ta có: ANOVA Model Sum of Squares df Mean Square F Sig. Regression 320.736 3 106.912 7.453 .000 Residual 631.211 44 14.346 Total 951.947 47 12 Qua bảng ta nhận thấy giá trị p của kiểm định F là rất nhỏ (Sig. = .000 ) do đó ta có thể bác bỏ giả thuyết Ho cho rằng cả ba hệ số 1, 2, 3 đều bằng không, nghĩa là có thể kết luận rằng tồn tại mối liên hệ tuyến tính giữa tốc độ tăng trưởng kinh tế với ít nhất một trong các yếu tố: tăng trưởng của nông nghiệp, tăng trưởng của xuất khẩu, tỷ lệ lạm phát. b. Hệ số xác định R2 SST SSE SST SSRR −== 12 R2 đo lường phần biến thiên của Y có thể có thể được giải thích bởi các biến độc lập X, là đại lượng thể hiện sự thích hợp của mô hình hồi quy bội. R2 càng lớn thì mô hình hồi quy bội đã xây dựng được xem là càng thích hợp, càng có ý nghĩa trong việc giải thích sự biến thiên của Y. Theo ví dụ trên , SPSS cho ta kết xuất sau: Model Summary Model R R Square Adjusted R Square Std. Error of the Estimate 1 .580 .337 .292 3 .7876 R2 (R Square) = 0,337 = 33,7% nghĩa là chỉ có 33,7% biến thiên của tốc độ tăng trưởng kinh tế được giải thích bởi mối liên hệ tuyến tính với tăng trưởng trong nông nghiệp, xuất khẩu và lạm phát. c. Kiểm định giả thuyết về các hệ số hồi quy: (kiểm định t) Trong kiểm định F chỉ cho ta biết tồn tại ít nhất một j  0. Trong kiểm định T sẽ cho biết biến Xj nào không có ảnh hưởng đến Y, Xj nào có ý nghĩa trong việc giải thích biến thiên của Y và do vậy nên được thể hiện trong mô hình hồi quy. Ta đặt giả thuyết : Ho: j = 0 H1: j  0 13 bjS bjtj = Giá trị kiểm định: Quy tắc quyết định: Bác bỏ giả thuyết Ho với mức ý nghiã  nếu: tj > t n-(k+1), /2 Trở lại ví dụ trên , SPSS cho ta kết xuất: Coefficients Unstandardized Standardized Coefficients Coefficients t Sig. Model B Std. Error Beta (Constant) 2.499 1.005 2.488 .017 -Tăng trưởng .428 .212 .249 2.022 .049 nong nghiep -tang truong .250 .072 .430 3.479 .001 xuat khau -ty le lam phat -.133 .055 -.300 -2.433 .019 Dependent Variable: tang truong nen kinh te Theo ví dụ trên các giá trị p của kiểm định được thể hiện trong bảng khá nhỏ và như vậy với mức ý nghĩa  = 5%, ta có thể bác bỏ giả thuyết cho rằng 1 = 0; 2 = 0; 3 = 0. Hay nói cách khác là cả ba yếu tố tăng trưởng của nông nghiệp, xuất khẩu và lạm phát đều có ý nghĩa trong việc giải thích biến thiên của tốc độ tăng trưởng của nền kinh tế./. Bài tập chương 4 : Bài 4.1 : Giả sử ta cĩ số liệu về doanh số và chi phí quảng cáo, lương nhân viên tiếp thị như sau : 14 ĐVT : triệu đồng Doanh số 115 170 325 455 655 Cpqc 35 55 65 68 79 LNVTT 15 25 36 45 56 Yêu cầu : 1. Xây dựng mơ hình hồi quy ba biến. 2. Ước lượng và kiểm định các thơng số với α = 5%. 3. Anh/ chị nhận xét gì về kết quả trên. Bài 4.2 : Giả sử ta cĩ số liệu về thu nhập, chi tiêu và giá trị tài sản như sau : ĐVT : usd/tuần Thu nhập 55 75 85 95 115 Chi tiêu 45 55 60 65 75 GTTS 12000 15000 16000 16500 18500 Yêu cầu : 1. Xây dựng mơ hình hồi quy ba biến. 2. Ước lượng và kiểm định các thơng số với α = 5%. 3. Anh/ chị nhận xét gì về kết quả trên. Bài 4.3: Giả sử ta cĩ số liệu về tốc độ tăng trưởng kinh tế, tốc độ tăng trưởng nơng nghiệp, tốc độ tăng trưởng cơng nghiệp như sau : Consumption (USD/năm) Income (USD/năm) Interate (%) 2000.4 2214.3 1.58 2024.2 2248.6 3.8 2050.7 2261.5 7.66 2146 2331.9 8.82 2246.3 2470.6 8.45 15 2324.5 2528 7.8 2418.6 2603.7 7.1 Yêu cầu : 1. Xây dựng mơ hình hồi quy hai biến (thu nhập – chi tiêu ; tiêu dùng – lãi suất). 2. Xây dựng mơ hình hồi quy ba biến. 3. Ước lượng và kiểm định các thơng số của hai mơ hình trên với α = 5%. 4. Anh/ chị nhận xét gì về kết quả trên. TÀI LIỆU THAM KHẢO: 1. Vũ Thiếu, Nguyễn Quang Dong, Nguyễn Khắc Minh, “Kinh tế lượng”, Nhà xuất bản Khoa học và kỹ thuật, 2001. 2. Nguyễn Quang Dong, “Bài tập kinh tế lượng với trợ giúp của phần mềm EVIEWS”, Nhà xuất bản Khoa học và kỹ thuật, 2002. 3. Hồng Ngọc Nhậm, “Kinh tế lượng”, Trường Đại học kinh tế TP. HCM, 2005.