Çoklu Doğrusal Regresyon Hesaplama
Çoklu doğrusal regresyon, bir bağımlı değişkeni birden çok yordayıcıyla birlikte açıklamayı sağlar: ŷ = b₀ + b₁x₁ + … + b_k x_k. Her katsayı, diğer tüm yordayıcılar sabit tutulduğunda ilgili değişkendeki bir birimlik artışın bağımlı değişkende yarattığı ortalama değişimi verir. Bu 'diğerleri sabitken' yorumu, çoklu regresyonu basit regresyondan ayıran temel özelliktir.
Bu araç en küçük kareler çözümünü sayısal olarak kararlı QR ayrışımıyla kurar; her katsayı için standart hata, t, p ve güven aralığı üretir; modelin bütününü F testiyle sınar; R², düzeltilmiş R² ve artık standart hatasını raporlar. Ayrıca çoklu bağlantı için VIF, artıkların bağımsızlığı için Durbin-Watson istatistiği hesaplar ve artık grafiğiyle normal Q-Q grafiğini çizerek varsayım denetimini kolaylaştırır.
Çoklu Doğrusal Regresyon Formülleri
Model: ŷ = b₀ + b₁x₁ + b₂x₂ + … + b_k x_k EKK çözümü: b = (XᵀX)⁻¹Xᵀy (burada sayısal olarak QR ile çözülür) Kareler: SST = SSR + SSE , SSE = Σ(yᵢ − ŷᵢ)² Belirlilik: R² = 1 − SSE / SST Düzeltilmiş: R²_düz = 1 − (1 − R²)·(n − 1)/(n − k − 1) Artık std. hatası: RSE = √[ SSE / (n − k − 1) ] Model testi: F = (SSR/k) / (SSE/(n − k − 1)) , sd = k , n − k − 1 Katsayı testi: t_j = b_j / SH(b_j) , sd = n − k − 1 Güven aralığı: b_j ± t_(1−α/2) · SH(b_j) Standart katsayı: β_j = b_j · s_xⱼ / s_y Çoklu bağlantı: VIF_j = 1 / (1 − R²_j) Otokorelasyon: d = Σ(eₜ − eₜ₋₁)² / Σeₜ²
Çözüm normal denklemler yerine Householder QR ayrışımıyla kurulur; bu, birimleri çok farklı yordayıcılarda sayısal kararlılığı korur. Varsayımlar: doğrusallık, hataların bağımsızlığı, sabit varyans, hataların normalliği ve tam çoklu bağlantı bulunmaması.
Nasıl Hesaplanır?
- Bağımlı değişkenin (Y) değerlerini üst alana yapıştırın.
- Yordayıcı alanına her satıra bir değişken yazın; satır başına "Reklam:" gibi bir ad koyarsanız tablolarda bu ad kullanılır. Her satırda Y ile aynı sayıda değer olmalıdır.
- Anlamlılık düzeyi ile güven düzeyini seçin; katsayı güven aralıkları seçtiğiniz düzeye göre kurulur.
- Önce modelin bütününe bakın: F testi anlamlı değilse tekil katsayıları yorumlamanın anlamı yoktur.
- Katsayı tablosunda b, standart hata, β, t, p, güven aralığı ve VIF sütunlarını birlikte okuyun; VIF 10'u aşan değişkenlerde katsayı yorumu güvenilmezdir.
- Artık grafiği ile Q-Q grafiğini denetleyin; örüntü görüyorsanız değişken dönüşümü veya model değişikliği gerekir.
Örnek Hesaplamalar
Reklam ve fiyatın satışa etkisi
12 aylık veride model ŷ = 31,855 + 2,801·Reklam − 0,521·Fiyat çıkar. R² = 0,9979 ve F(2, 9) = 2.153,707 (p < 0,001) ile model bütün olarak anlamlıdır; reklam katsayısı t = 48,175 ile p < 0,001 düzeyinde anlamlıyken fiyat katsayısı p = 0,346 ile anlamlı değildir. VIF değerleri 1,81 olduğundan çoklu bağlantı sorunu yoktur ve Durbin-Watson 2,296'dır.
Regresyon denklemi: ŷ = 31,855 + 2,801·Reklam − 0,521·Fiyat · R² (belirlilik katsayısı): 0,9979 (%99,8) · Düzeltilmiş R²: 0,9975
Tek yordayıcı: basit regresyonla aynı sonuç
Tek yordayıcılı model ŷ = 50,033 + 2,096·Çalışma saati verir; R² = 0,4057, düzeltilmiş R² = 0,3463 ve F(1, 10) = 6,828 (p = 0,026) ile eğim anlamlıdır. Katsayının %95 güven aralığı 0,309 – 3,884'tür; bu değerler basit doğrusal regresyonla birebir aynıdır ve tek yordayıcıda VIF tanımı gereği 1'dir.
Regresyon denklemi: ŷ = 50,033 + 2,096·Çalışma saati · R² (belirlilik katsayısı): 0,4057 (%40,6) · Düzeltilmiş R²: 0,3463
Çoklu bağlantılı model (VIF uyarısı)
Aynı büyüklüğü iki farklı birimde ölçen iki yordayıcı konduğunda VIF 41.812,57'ye fırlar ve çoklu bağlantı uyarısı görüntülenir. Model R² = 0,9982 ve F(2, 7) = 1.985,428 (p < 0,001) ile kusursuz görünse de tekil katsayılar p = 0,480 ve p = 0,675 ile anlamsızlaşır: bağlantılı değişkenler birbirinin katkısını maskeler.
Regresyon denklemi: ŷ = -77,029 + 1,596·Boy − 2,381·BoyInc · R² (belirlilik katsayısı): 0,9982 (%99,8) · Düzeltilmiş R²: 0,9977