Đề tài Phương sai sai số thay đổi

PHẦN LÝ THUYẾT Khái niệm, định nghĩa Khi nghiên cứu mô hình hồi quy tuyến tính cổ điển, chúng ta đưa ra giả thiết rằng: Phương sai của mỗi một ngẫu nhiên Ui trong điều kiện đã cho của biến độc lập Xi là không đổi, nghĩa là: Var(Ui/Xi) = E(Ui)2 = (2 (i= 1,n) Ngược lại với trường hợp trên là trường hợp: Phương sai có điều kiện Yi thay đổi khi Xi thay đổi, nghĩa là Var( U i X i )= σ i 2 (trong đó các 𝜎 𝑖 2 là khác nhau). / Nguyên nhân Phương sai thay đổi có thể do một trong số các nguyên nhân sau đây: Do bản chất của các mối liên hệ kinh tế: Có nhiều mối liên hệ kinh tế đã chứa đựng hiện tượng này. Chẳng hạn mối quan hệ giữa thu nhập và tiết kiệm, thông thường thu nhập tăng thì mức độ biến động của tiết kiệm cũng tăng. Do kỹ thuật thu thập số liệu được cải tiến, (2 dường như giảm. Kỹ thuật thu thập số liệu càng được cải tiến thì sai lầm phạm phải càng ít hơn. Do con người học được hành vi trong quá khứ. Chẳng hạn, lỗi của người đánh máy càng ít nếu thực hành càng tăng… Trường hợp phương sai không đồng đều thường gặp khi thu thập số liệu theo không gian (cùng thời điểm nhưng có nhiều đối tượng khác nhau, chẳng hạn như nhiều hộ tiêu dùng ở những địa phương khác nhau, nhiều xí nghiệp, công ty khác nhau,….) Phương pháp bình phương nhỏ nhất Phương pháp bình phương nhỏ nhất có trọng số Xét mô hình hồi quy hai biến: Y i = β 1 + β 2 X i + U i (6.3.1) Như ta đã biết, đối với phương pháp bình phương nhỏ nhất không có trọng số, β 1, β 2 thỏa mãn điều kiện: tổng bình phương các phần dư cực tiểu, tức là: i=1 n e i 2 = i=1 n ( Y i − β 1 − β 2 Xi)2 → min (6.3.2) Đối với phương pháp bình phương nhỏ nhất có trọng số, β 1, β 2 thỏa mãn điều kiện: tổng bình phương các phần dư có trọng số đạt cực tiểu, tức là: I=1 n W i e i 2 = i=1 n W i ( Y i − β 1 ∗ − β 2 ∗ X i )2 →min (6.3.3) Trong đó β 1 ∗ , β 2 ∗ là các ước lượng bình phương nhỏ nhất có trọng số, Wi được định nghĩa như sau: Wi= 1 σ i 2 (∀ i) ; Var( U i X i )= σ i 2 (6.3.4) Bằng cách lý luận như trường hợp không có trọng số ta tìm được β 1 ∗ = 𝑌 ∗ − β 2 ∗ 𝑋 ∗  β 2 ∗ = ( I=1 n W i ) I=1 n W i X i Y i − I=1 n W i X i ( I=1 n W i Y i ) I=1 n W i ( I=1 n W i X i 2 )− ( I=1 n W i X i ) 2 Trong đó:  𝑌 ∗ = I=1 n W i Y i I=1 n W i  𝑋 ∗ = I=1 n W i X i I=1 n W i Rõ ràng khi Wi=w(∀ i) thì trung bình trọng số bằng trung bình thông thường. Phương pháp bình phương nhỏ nhất tổng quát Bây giờ ta trở lại trường hợp ước lượng OLS của β 2 ở trên là β 2. Hệ số β 2. vẫn là ước lượng tuyến tính không chệch, nhưng không phải là tốt nhất. Nguyên nhân là do giả thiết phương sai của sai số là không đổi bị vi phạm. Vậy làm cách nào để khắc phục tình trạng đó, để trả lời câu hỏi này , chúng ta cần phân biệt trường hợp đã biết hoăc chưa biết phương sai. Trong phần nay chúng ta chi cần đưa ra một phương pháp tổng quát để đưa mô hình không thỏa mãn giả thiết phương sai sai số không đổi về mô hình thỏa mãn giả thiết này để làm cơ sở xem xét ảnh hương cua việc vi phạm giả thiết. Xét mô hình hai biến Y i = β 1 + β 2 X i + U i . Trong đó tất cả các giả thiết cua mô hình hồi quy tuyến tính cổ điển đều thỏa mãn trừ giả thiết phương sai sai số không đổi. Phương trình này có thể viết dưới dạng: Y i = β 1 X 0i + β 2 X i + U i (6.3.5) Trong đó X 0i =1(∀ i) Với mỗi I, chia cả hai vế của 6.3.5 cho σ i ( σ i >0)ta được:  Y i σ i = β 1 X 0i σ i + β 2 X i σ i + U i σ i Đặt Y i ∗ = Y i σ i ; X 0i ∗ = X 0i σ i ; X i ∗ = X i σ i ; U i ∗ = U i σ i Ta co thể viết 6.3.6 dưới dạng: Y i ∗ = β 1 ∗ X 0i ∗ + β 2 ∗ X i ∗ + U i ∗ (6.3.7) Trong đó ta cũng sử dụng β 1 ∗ ; β 2 ∗ chỉ các tham số của mô hình đã được biến đổi để phân biệt với các tham số của ƯLBPNN thông thường β 1 ; β 2 Mục tiêu của biến đổi mô hình gốc là gì? Để thấy được điều này, chúng ta xét sai số ngẫu nhiên Ui* Ta có : var(Ui*)=E(Ui*)2= 1 σ i 2 E U i ∗ = σ i 2 σ i 2 =1 (do E(Ui*)2= σ i 2 ) Vậy U*I có phương sai không đổi. Do đó chúng ta có thể áp dụng phương pháp OLS cho mô hình hồi quy (6.3.7) và được gọi là phương pháp BPNN tổng quát. Tìm được các hệ số hồi quy: β 1 ∗ = 𝑌 ∗ − β 2 ∗ 𝑋 ∗  β 2 ∗ = ( I=1 n W i ) I=1 n W i X i Y i − I=1 n W i X i ( I=1 n W i Y i ) I=1 n W i ( I=1 n W i X i 2 )− ( I=1 n W i X i ) 2 Var( β 2 ∗ )= I=1 n W i I=1 n W i ( I=1 n W i X i 2 )− ( I=1 n W i X i ) 2 Hậu quả Khi xảy ra hiện tượng phương sai sai số tha đổi sẽ ảnh hưởng tới các ước lượng thu được sau: Các ước lượng bình phương nhỏ nhất vẫn là ước lượng không chệch nhưng không phải là ước lượng hiệu quả (ước lượng có phương sai nhỏ nhất). Ước lượng của các phương sai sẽ bị chệch, do đó các kiểm định mức ý nghĩa và khoảng tin cậy dựa theo phân phối T và F không còn đáng tin cậy nữa. Phát hiện phương sai sai số thay đổi Phương pháp đồ thị phần dư Bước 1: Ước lượng mô hình hồi quy gốc để thu được ei. Bước 2: Sắp xếp các ei theo chiều tăng của biến Xij nào đó. Bước 3: Vẽ đồ thị của ei2 theo biến Xij đã sắp xếp đó. Khi đó ta nhận được 5 dạng đồ thị sau: / Kết luận: Nếu X ij tăng mà giá trị của e i 2 cũng tăng theo thì ta có thể khẳng định là mô hình có phương sai của sai số thay đổi. Nếu có dạng hình a) tức là khi X ij thay đổi, e i 2 dao động xung quanh 1 vị trí nào đó, thì có cơ sở để nói phương sai thuần nhất (đồng đều, không đổi). Phương pháp sử dụng tiêu chuẩn kiểm định Kiểm định Park Kiểm định PARK là một phương pháp kiểm định hiện tượng phương sai của sai số thay đổi trong các mô hình hồi quy. Như đã biết, đây là một phương pháp kiểm định cho kết quả khá chính xác, tuy nhiên hạn chế của phương pháp này là nó chỉ áp dụng được đối với mô hình hồi quy đơn. Trong đó Park đã tiến hành hình thức hóa phương pháp đồ thị cho rằng 𝜎 𝑖 2 là hàm nào đó của biến giải thích X.Dạng hàm mà ông đề nghị là : 𝜎 𝑖 2 = 𝜎 2 𝑋 𝑖 𝛽 2 𝑒 𝑣 𝑖 (1) Lấy ln của 2 vế ta được 𝑙𝑛𝜎 𝑖 2 =𝑙𝑛 𝜎 2 + 𝛽 2 𝑙𝑛𝑋𝑖+ 𝑣 𝑖 (2) Vì 𝜎 𝑖 2 là chưa biết nên Park đã đề nghị sử dụng 𝑒 𝑖 2 thay cho 𝜎 𝑖 2 và ước lượng hồi quy sau: 𝑙𝑛𝑒 𝑖 2 =𝑙𝑛 𝜎 𝑖 2 + 𝛽 2 𝑙𝑛 𝑋 𝑖 + 𝑣 𝑖 = 𝛽 1 + 𝛽 2 𝑙𝑛 𝑋 𝑖 + 𝑣 𝑖 (3) Trong đó 𝑣 𝑖 là số hạng ngẫu nhiên Các bước tiến hành kiểm định Park Bước 1: Ước lượng hồi quy gốc, cho dù có hay không tồn tại hiện tượng phương sai của sai số thay đổi. Bước 2: Từ hồi quy gốc, thu được các phần dư sau đó bình phương chúng được 𝑒 𝑖 2 rồi đến lấy 𝑙𝑛𝑒 𝑖 2 Bước 3: Ước lượng hồi quy trong đó biến giải thích ( 𝑋 𝑖 )là biến giải thích trong hồi quy gốc, nếu có nhiều biến giải thích có thể ước lượng hồi quy đối với mỗi biến giải thích, hoặc có thẻ ước lượng hồi quy đối với mỗi biến giải thích, trong đó với 𝑌 𝑖 là 𝑌 𝑖 đã được ước lượng. Bước 4: Kiểm định giả thiết 𝐻 𝑜 : 𝛽 2 =0 nghĩ là không có hiện tượng phương sai của sai số thay đổi. Nếu có tồn tại mối liên hệ có ý nghĩa về mặt thống kê giữa 𝑙𝑛 𝑒 2 và 𝑙𝑛𝑋 𝑖 . Thì giả thiết 𝐻 𝑜 : 𝛽 2 = 0 có thể bác bỏ trong trường hợp này ta phải tìm cách khắc phục. Bước 5: Nếu giả thiết 𝐻 𝑜 : 𝛽 2 = 0 được chấp nhận thì 𝛽 1 trong hồi quy (3) có thể được giải thích như là giá trị của phương sai không đổi ( 𝛽 1 =𝑙𝑛 𝜎 2 ). Kiểm định Glejser Kiểm định Glejser cũng tương tự như kiểm định Park. Sau khi thu được phần dư ei từ hồi quy gốc theo phương pháp bình phuong nhỏ nhất. Glejser đã đề nghị hồi quy giá trị tuyệt đối của ei đối với biến Xi nào đó mà có thể kết hợp chặt chẽ với 𝜎 𝑖 2 . Trong thực nghiệm Glejser sử dụng hàm hồi quy phụ sau:   𝑒 𝑖 = 𝛽 1 + 𝛽 2 𝑋 𝑖 + 𝑉 𝑖  𝑒 𝑖 = 𝛽 1 + 𝛽 2 𝑋 𝑖 + 𝑉 𝑖  𝑒 𝑖 = 𝛽 1 + 𝛽 2 1 𝑋 𝑖 + 𝑉 𝑖 𝑒 𝑖 = 𝛽 1 + 𝛽 2 1 𝑋 𝑖 + 𝑉 𝑖 Trong các mô hình hồi quy phụ nêu trên, nếu giả thiết H0: β2 = 0 bị bác bỏ thì có thể cho rằng mô hình hồi quy gốc có phương sai sai số thay đổi. Cần lưu ý rằng kiểm định Glejser cũng có vấn đề như kiểm định Park như: E(Vi) ≠ 0, Vi có tương quan chuỗi. tuy nhiên Glejser cho rằng với mẫu lớn thì bốn mô hình trên cho ta kết quả tốt trong việc phát hiện phương sai sai số thay đổi. Do vậy mà kiểm định Glejser được sử dụng như một công cụ để chuẩn đoán trong mẫu lớn. Kiểm định tương quan hạng Spearman Kiểm định tương quan hạng của Spearman. Định nghĩa:hệ số tương quan hạng Spearman 𝑟 𝑠 được xác định như sau:  𝑟 𝑠 =1−6 𝑑 𝑖 𝑛( 𝑛 2 −1) Trong đó 𝑑 𝑖 là hiệu của các hạng được gắn cho hai đặc trưng khác nhau cùng một phần tử thứ i và n bằng số các phần tử được xếp hạng. Hệ số tương quan hạng có thể được dùng để phát hiện phương sai của sai số thay đổi. Chúng ta xét mô hình: 𝑌= 𝛽 1 + 𝛽 2 𝑋 𝑖 + 𝑈 𝑖 Thủ tục kiểm định như sau: Bước 1: Ước lượng hồi quy trên tập số liệu đối với Y và X thu được phần dư 𝑒 𝑖 . Bước 2: Xếp hạng 𝑒 𝑖 và 𝑋 𝑖 theo thứ tự giảm hoặc tăng, tính d= hạng 𝑒 𝑖 - hạng 𝑋 𝑖 sau đó tính hệ số tương quan hạng Spearman. Bước 3: giả sử hệ số tương quan hạng của tổng thể là 𝑝 𝑖 =0 và n>8 thì ý nghĩa của hệ tương quan hạng mẫu 𝑟 𝑠 có thể được kiểm định bằng tiêu chuẩn t sau: 𝑡= 𝑟 𝑠 𝑛−2 1− 𝑟 𝑠 2 với bậc tự do df = n - 2. Nếu giá trị t tính được mà vượt điểm tới hạn t, chúng ta có thể chấp nhận giả thiết phương sai của sai số thay đổi. nếu mô hình hồi quy có biến giải thích thì hệ số tương quan hạng có thể tính giữa 𝑒 𝑖 với mỗi một biến X riêng và có thể kiểm định ý nghĩa thống kê bằng tiêu chuẩn ở trên. Kiểm định Goldfeld – Quandt Nếu giả thiết rằng phương sai của sai số thay đổi 𝜎 𝑖 2 có thể liên hệ dương với một trong các biến giải thích trong mhhq thì ta có thể sử dụng kiểm định này. Xét mô hình 2 biến: 𝑌 𝑖 = 𝛽 1 + 𝛽 2 𝑋 𝑖 + 𝑈 𝑖 Giả sử 𝜎 𝑖 2 có liên hệ dương với biến X theo cách sau: 𝜎 𝑖 2 = 𝜎 2 𝑋 𝑖 2 Trong đó 𝜎 𝑖 2 là hàng số. Giả thiết này có nghĩa là 𝜎 𝑖 2 tỷ lệ với bình phương của biến X. Nếu giả thiết trên là thích hợp thì điều này có nghĩa là khi X tăng 𝜎 𝑖 2 cũng tăng. Các bước kiểm định Goldfeld - Quandt gồm các bước sau: Bước 1: Sắp xếp các quan sát theo giá trị tăng dần về giá trị của biến X. Bước 2: Bỏ c quan sát ở giữa theo cách sau: Đối với mô hình 2 biến. George G.Judge đề nghị: C = 4 nếu cỡ mẫu khoảng n = 30 C = 10 nếu cỡ mẫu khoảng n = 60 Và chia số quan sát còn lại thành 2 nhóm, trong đó mỗi nhóm có 𝑛−𝑐 2 quan sát. Bước 3: Sử dụng phương pháp bình phương bé nhất ước lượng tham số hàm hồi quy đối với 𝑛−𝑐 2 quan sát đầu và cuối: thu được tổng bình phương các phần dư của RSS1, RSS2 tương ứng. Trong đó RSS1 đại diện cho RSS2 từ hồi quy tương ứng với các giá trị của Xi nhỏ hơn RSS2 - ứng với các gái trị Xi nhỏ hơn. Bậc tự do tương ướng
- k hoặc
. Trong đó k là số các tham số được ước lượng kể cả hệ số chặn (trường hợp 2 biến k = 2). Bước 4: Tính 𝐹= 𝑅𝑆𝑆 1 𝑑𝑓 𝑅𝑆𝑆 2 𝑑𝑓 Nếu Ui là phân phối chuẩn và nếu giả thiết về phương sai có điều kiện không đổi được thỏa mãn thì F tuân theo phân phối F với bậc tự do ở tử số và mẫu số là (n-c-2k)/2, nghĩa là F có phân phối F(df,df). Trong ứng dụng nếu F tính được lớn hơn điểm giớ hạn F ở mức ý nghĩa mông muốn, thì chúng ta có thể từ bỏ H0: phương sai có điều kiện không đổi. nghĩa là có thể nói có thể phương sai số thay đổi. Chú ý rằng trong trường hợp các biến giải thích X nhiều hơn 1 thì việc sắp xếp các quan sát trong kiểm định ở bước 1 có thể làm đối với một biến bất kỳ trong các biến giải thích đó. Chúng ta có thể tiến hành kiểm định Park đối với mỗi biến X. Chú ý : Theo kinh nghiệm của các nhà kinh tế lượng thì số quan sát bị loại bỏ khoảng 20% tổng số quan sát mà không nhất thiết mà không phải bỏ đi các quan sát ở giữa. Trong trường hợp đó cần phải xác định số bậc tự do cho thích hợp. Các thử nghiệm theo phương pháp Monte Carlo thì c = 8 nếu n khoảng 30; c =6 nếu n khoảng 60. Kiểm định Breusch – Pagan – Godfrey (BPG) Xét mô hình hồi qui k biến sau: Yi = (1 + (2X2i + … + (kXki + Ui (1) Giả sử (i2 được mô tả như là một hàm số của các biến phi ngẫu nhiên Zi, Zi là các biến Xi (một số hoặc tất cả) có ảnh hưởng đến (i2, có dạng: (i2 = f(Z2i, Z3i, …, Zmi) Giả định f(Z2i, Z3i, …, Zmi) có dạng tuyến tính: (i2 = (1 + (2Z2i + … + (mZmi nếu (2 = (3 = … = (m = 0 thì (i2 = (1 là hằng số. Do vậy, việc kiểm định xem liệu rằng (i2 có thay đổi hay không, chúng ta có thể kiểm định giả thuyết H0: (2 = (3 = … = (m = 0. Kiểm định Breusch – Pagan– Godfrey qua các bước sau: Bước 1: Ước lượng (1) bằng phương pháp OLS để thu được phần dư e1, e2, …, en. Bước 2: Tính Bước 3: Xây dựng biến pi = ei / Bước 4: Hồi quy pi theo các biến Zi dưới dạng: pi = (1 + (2Z2i + … + (mZmi + vi (*) trong đó vi là số hạng ngẫu nhiên của hồi qui này. Bước 5: Thu được ESS (tổng các bình phương được giải thích) từ (*) và xác định: Giả thuyết rằng Ui có phân phối chuẩn và khi cỡ mẫu n tăng lên vô hạn thì ( ( (2(m – 1). Tức là ( sẽ xấp xỉ (2 với m – 1 bậc tự do. Như vậy, nếu trong áp dụng mà ta tính được ( vượt giá trị tra bảng (2 với m – 1 bậc tự do với mức ý nghĩa đã chọn, thì chúng ta bác bỏ giả thuyết H0 về phương sai đồng đều. Ngược lại, chúng ta có thể chấp nhận nó. Kiểm định White Kiểm định BJG cần U có phân bố chuẩn, White đề nghị một thủ tục không đòi hỏi U có phân bố chuẩn. kiểm định này là kiểm định tổng quát về sự thuần nhất của phương sai. Xét mô hình sau đây: 𝑌 1 = 𝛽 1 + 𝛽 2 𝑋 2 + 𝛽 3 𝑋 3 + 𝑈 𝑖 1 Bước 1: Ước lượng (1) bằng OLS. Từ đó thu được các phần tử dư tương ứng 𝑒 𝑖 Bước 2: Ước lượng mô hình sau đây: 𝑒 𝑖 2 = 𝛼 1 + 𝛼 2 𝑋 2 + 𝛼 3 𝑋 3 + 𝛼 4 𝑋 4 2 + 𝛼 5 𝑋 5 2 + 𝛼 6 𝑋 2 𝑋 3 + 𝑉 𝑖 2 (2) có thể số mũ cao hơn và nhất thiết là phải có hệ số chặn bất kể mô hình gốc có hay không có hệ số chặn. 𝑅 2 là hệ số xác định bội thu được từ (2). Bước 3: Với 𝐻 0 : phương sai của sai số không đổi, có thể chia ra rằng: 𝑛 𝑅 2 có phân xấp xỉ 𝜒 2 𝑑𝑓 . Df bằng số hệ số của mô hình (2) không kể hệ số chặn. Bước 4: Nếu 𝑛 𝑅 2 không vượt quá giá trị 𝜒 2 𝑑𝑓 , thi giả thiết 𝐻 0 không có cơ sơ để bác bỏ . Điều này nói trong mô hình (2): 𝛼 1 = 𝛼 2 = ...= 𝛼 6 =0. Trong trường hợp ngược lại giả thiết 𝐻 0 bị bác bỏ. Ta nhận thấy rằng bậc tự do của tăng nhanh khicos thêm biến độc lập. Trong nhiều trường hợp người ta có thể bỏ các số hạng có chứa tích chéo 𝑋 𝑖 𝑋 𝑗 , i
j. Ngoài ra trường trường hợp có sai lầm định dạng, kiểm định White có thể đưa ra nhận định sai lầm là phương sai của sai số thay đổi trong trường hợp phương sai của sai số là đồng nhất. Kiểm định dựa trên biến phụ thuộc Kiểm định này dựa trên ý tưởng cho rằng phương sai của yếu tố ngẫu nhiên phụ thuộc vào các biến độc lập có hay không có trong mô hình, nhưng không biết rõ chúng là nhưng biến nào. Vì vậy, thay vì xem xét quan hệ đó, người ta xét mô hình sau đây: 𝛼 𝑖 2 = 𝛼 1 + 𝛼 2 𝐸 𝑌 𝑖 2 Trong mô hình trên, 𝜎 𝑖 2 và E(Yi) đều chưa biết, do đó sử dụng các ước lượng của nó là 𝑒 𝑖 2 và 𝑌 𝑖 2 . Bước 1: Ước lượng mô hình ban đầu bằng OLS. Từ đó thu được ei và 𝑌 𝑖 . Bước 2: Ước lượng mô hình sau đây bằng OLS: 𝑒 𝑖 2 = 𝛼 1 + 𝛼 2 𝑌 𝑖 2 + 𝑣 𝑖 Từ kết quả này thu được R2 tương ứng. Có thể sử dụng hai kiểm định sau đây để kiểm định giả thiết: H0: Phương sai của sai số không thay đổi H1: Phương sai của sai số thay đổi Kiểm định 𝝌 𝟐 nR2 có phân phối xấp xỉ 𝜒 2 (1). Nếu nR2 lớn hơn 𝜒 𝛼 2 (1) thì H0 bị bác bỏ. Trường hợp ngược lại không có cơ sở bác bỏ H0. Kiểm định F F= α 2 se α 2 2 có phân bố F(1, n−2) Nếu F > Fα(1, n-2) thì hệ số α2 ≠ 0, có nghĩa H0 bị bác bỏ. Phương pháp khắc phục hiện tượng phương sai sai số thay đổi Như chúng ta đã biết, phương sai của sai số thay đổi làm cho các ước lượng không còn là ước lương hiệu quả nữa. Vì thế biện pháp khắc phục là hết sức cần thiết.Việc chữa chạy căn bệnh này phụ thuộc chủ yếu vào liệu, được biết hay chưa. Ta phân biệt 2 trường hợp. 𝝈 𝒊 𝟐 Đã biết Khi đã biết chúng ta có thể dễ dàng khắc phục căn bệnh đó bằng cách sử dụng phương pháp bình phương nhỏ nhất có trọng số đã trình bày ở trên. 𝝈 𝒊 𝟐 Chưa biết Trong nghiên cứu kinh tế việc biết trước 𝜎 𝑖 2 nói chung là hiếm. Vì vậy nếu chúng ta muốn sử dụng phương pháp bình phương nhỏ nhất có trọng số thì chúng ta cần có những giải thiết nhất định về 𝜎 𝑖 2 và biến đổi mô hình hồi quy gốc sao cho mô hình đã đươc biến đổi này thoả mãn giả thiết phương sai của sai số không đổi.Phương pháp bình phương nhỏ nhất sẽ đươc áp dụng cho mô hình đã được biến đổi như đã chỉ ra trước đây, phương pháp bình phương nhỏ nhất có trọng số là phương pháp bình phương nhỏ nhất áp dụng cho tập số liệu đã được biến đổi. Chúng ta sẽ minh họa cho các phép biến đổi này qua việc sử dụng mô hình hồi quy 2 biến mà ta gọi là mô hình gốc: 𝑌 𝑖 = 𝛽 1 + 𝛽 2 𝑋 𝑖 + 𝑈 𝑖 Giả sử mô hình này thỏa mãn các giả thiết của mô hình hồi quy tuyển tính cổ điển trừ giả thiết phương sai của sai số không đổi. Chúng ta xét 1 số giải thiết sau về phương sai của sai số. Những dạng này tuy chưa bao quát được tất cả nhưng phổ biến. Giả thiết 1: Phương sai của sai số tỉ lệ với bình phương của biến giải thích. 𝐸 𝑈 𝑖 2 = 𝜎 2 𝑋 𝑖 2 (6.41) Nếu bằng phương pháp đồi thị hoặc tiếp cận Park hoặc Glejser …chỉ cho chúng ta rằng có thể phương sai 𝑈 𝑖 tỉ lệ với bình phương của biến giải thích X thì chúng ta có thể biến đổi mô hình gốc theo cách sau: Chia 2 vế của mô hình gốc cho 𝑋 𝑖 ( 𝑋 𝑖 #0) 𝑌 𝑖 𝑋 𝑖 = 𝛽 1 𝑥 𝑖 + 𝛽 2 + 𝑈 𝑖 𝑋 𝑖 = 𝛽 1 1 𝑋 1 + 𝛽 2 + 𝑉 𝑖 (6.42) Trong đó 𝑣 𝑖 = 𝑈 𝑖 𝑋 𝑖 là số hạng nhiều đã được biến đổi , Và rõ ràng rằng 𝐸 ( 𝑣 𝑖 ) 2 = 𝜎 2 , thực vậy 𝐸 ( 𝑣 𝑖 ) 2 =𝐸 ( 𝑈 𝑖 𝑋 𝑖 ) 2 = 1 𝑋 1 2 𝐸 ( 𝑈 𝑖 ) 2 = 𝜎 2 𝑋 𝑖 2 𝑋 𝑖 2 = 𝜎 2 Như vậy tất cả các giả thiết của mô hình hồi quy tuyến tính cố điển được thảo mãn đối với (6.42) vậy ta có thể áp dụng phương pháp bình phương nhỏ nhất cho phương trình đã được biến đổi (6.38). Hồi quy 𝑌 𝑖 𝑋 𝑖 theo 1 𝑋 𝑖 . Chú ý rằng trong hồi quy đã được biển đổi thì số hạng chặn 𝛽 2 là hệ số góc của phương trình hồi quy gốc và hệ số góc 𝛽 1 là số hạng chặn trong mô hình hồi quy gốc. Di đó để trở lại mô hình hồi quy gốc chúng ta phải nhân cả 2 về của (6.38) đã được ước lượng với 𝑋 𝑖 . Giả thiết 2: Phương sai của sai số tỉ lệ với biến giải thích X: 𝐸 𝑈 𝑖 2 = 𝜎 2 𝑋 𝑖 Nếu sau khi ước lượng hồi quy bằng phương pháo bình phương nhỏ nhất thông thường, chúng ta vẽ đồ thị của phần dư này với biến giải thích X và quan sát hiện tượng chỉ ra phương sai của sai số liên hệ tuyến tính với biến giải thích hoặc bằng cách nào đó có thể tin tưởng như vậy thì mô hình gốc sẽ được biển đổi như sau: Với mỗi i chia cả 2 về của mô hình gốc cho 𝑋 𝑖 (với 𝑋 𝑖 >0) 𝑌 𝑖 𝑋 𝑖 = 𝛽 1 𝑋 𝑖 + 𝛽 2 𝑋 𝑖 + 𝑈 𝑖 𝑋 𝑖 = 𝛽 𝑖 1 𝑋 𝑖 + 𝛽 2 𝑋 𝑖 + 𝑣 𝑖 (6.43) Trong đó 𝑉 𝑖 = 𝑈 𝑖 𝑋 𝑖 và có thể thấy ngay rằng 𝐸 𝑣 𝑖 = 𝜎 2 . Chú ý mô hình (6.43) là mô hình không có hệ số chặn cho nên ta sử dụng mô hình hồi quy gốc để ước lượng, sau khi ước lượng (6.43) chúng ta sẽ trở lại mô hình hồi quy bằng cách nhân cả 2 vế (6.43) với 𝑋 𝑖 . Giả thiết 3: Phương sai cua sai số tỉ lệ với bình phương của giá trị kì vọng của Y, nghĩa là 𝐸 ( 𝑈 𝑖 2 ) 2 = (𝐸 𝑌 𝑖 ) 2 . Khi đó thực hiện phép biến đổi biến số như sau : 𝑌 𝑖 𝐸(𝑌 𝑖 ) = 𝛽 1 𝐸(𝑌 𝑖 ) + 𝛽 2 𝐸(𝑌 𝑖 ) 𝑋 𝑖 + 𝑈 𝑖 𝐸(𝑌 𝑖 ) = 𝛽 1 1 ( 𝑌 𝑖 ) + 𝛽 2 1 𝐸(𝑌 𝑖 ) 𝑋 𝑖 + 𝑉 𝑖 Trong đó 𝑉 𝑖 = 𝑈 𝑖 𝐸(𝑌 𝑖 )  𝑣𝑎𝑟(𝑣 𝑖 )= 𝜎 2 Nghĩa là nhiễu 𝑉 𝑖 ,có phương sai không đổi .điều này chỉ ra rằng hồi quy (6.44) thỏa mãn gi