📐 Lineer Cebir ve Sayısal Yöntemler · En Küçük Kareler
QR Ayrışımı ile
Eğri Uydurma
Elinizdeki veri noktalarına en iyi uyan doğruyu ya da parabolu nasıl bulursunuz?
Bu sayfada sıfırdan başlayarak, adım adım QR ayrışımı yöntemini öğreneceksiniz.
QR Ayrışımı
Gram-Schmidt
En Küçük Kareler
🤔 Problem Ne?
Diyelim ki bir deney yaptınız ve elinizde birkaç ölçüm var. Bu ölçümler tam bir doğru ya da eğri üzerinde değil — hepsi biraz sağa sola saçılmış. Soru şu: Bu noktalara en iyi uyan doğruyu (veya eğriyi) nasıl buluruz?
💡 TEMEL FİKİR
Her noktanın eğriden uzaklığını hesaplayın, bu uzaklıkların karelerini toplayın ve bu toplamı en küçük yapan eğriyi bulun. Buna en küçük kareler yöntemi denir. QR ayrışımı bu hesabı yapmanın sayısal olarak en güvenilir yoludur.
Burada sayısal güvenilirlik neden önemli? Alternatif yöntem olan "normal denklem" hesaplamaları sırasında hataları büyütür. QR ise matrisi iki parçaya bölerek bu sorunu ortadan kaldırır.
🔢 QR Ayrışımı Ne Demek?
Herhangi bir $A$ matrisini (satır sayısı sütun sayısından fazla olduğunda) iki matrisin çarpımı olarak yazabiliriz:
$$ A = Q \cdot R $$
A: veri matrisi | Q: birbirine dik sütunlar | R: üst üçgen matris
Q MATRİSİ
Ortonormal sütunlar
Sütunlar birbirine dik ve her birinin uzunluğu 1'dir. $Q^TQ = I$ özelliği sayesinde hesap kolaylaşır.
R MATRİSİ
Üst üçgen matris
Köşegenin altı tamamen sıfır. Bu yapı, denklem sistemini kolayca çözmeyi sağlar (geri yerine koyma).
Bunu ne işe yarayacak?
Bulmak istediğimiz katsayıları (doğru için a, b — parabol için a, b, c) şu sistemden çıkarıyoruz:
$$ A \cdot \mathbf{x} = \mathbf{b} $$
Aşırı belirli sistem — denklem sayısı bilinmeyen sayısından fazla, tam çözüm yok
$A = QR$ yerini koyup $Q^T$ ile çarparsak, sistem şu güzel hale gelir:
$$ R \cdot \mathbf{x} = Q^T \mathbf{b} $$
Artık sadece üst üçgen bir sistemi çözmek kalıyor — bu çok kolay!
📐 Q ve R Nasıl Bulunur? (Gram-Schmidt)
$A$ matrisinin sütunlarını alıp, onlardan birbirine dik yeni sütunlar üretiyoruz. Bu işleme Gram-Schmidt ortonormalizasyonu denir.
Fikir şu: İkinci sütundan birincinin "gölgesini" sil, geriye sadece ona dik olan kısım kalır. Sonra normalleştir (uzunluğu 1 yap).
📖 GRAM-SCHMIDT VE QR AYRIŞIMI HAKKINDA DETAYLI BİLGİ
Gram-Schmidt yöntemi ve QR ayrışımının matematiksel temelleri için BUders'in Ortogonal Taban sayfasına göz atabilirsiniz: buders.com → Ortogonal Taban
1
İlk sütunu al, uzunluğuna böl
$u_1 = a_1$ (A'nın ilk sütunu). Uzunluğu $\|u_1\|$. Normalleştirilmiş hali: $q_1 = u_1 / \|u_1\|$. Bu, $R$'nin sol üst köşesi $r_{11} = \|u_1\|$ olur.
2
İkinci sütunu birinciye dik hale getir
$a_2$'nin $q_1$ yönündeki bileşenini hesapla: $r_{12} = a_2^T q_1$. Sonra bu bileşeni çıkar: $u_2 = a_2 - r_{12}\,q_1$. Normalleştir: $q_2 = u_2 / \|u_2\|$, $\;r_{22} = \|u_2\|$.
3
Üçüncü sütunu önceki ikisine dik yap (gerekirse)
$u_3 = a_3 - (a_3^T q_1)\,q_1 - (a_3^T q_2)\,q_2$. Normalleştir: $q_3 = u_3/\|u_3\|$.
4
$R \mathbf{x} = Q^T \mathbf{b}$ sistemini geri yerine koyma ile çöz
$R$ üst üçgen olduğu için son satırdan başlayarak yukarı doğru gidip her bilinmeyeni sırayla bulursunuz.
📊 ÖRNEK 1 — DOĞRU UYDURMA
En uygun doğrunun denklemi şu biçimdedir:
$$ y = a + b \cdot x $$
Bulmamız gereken: a (y-kesişim) ve b (eğim)
Adım 1 — Denklem Sistemi Kurma
Her noktayı $y = a + bx$ denklemine koyalım:
$$ \begin{aligned}
x=0:& \quad a + b(0) = 1 \\
x=1:& \quad a + b(1) = 2 \\
x=2:& \quad a + b(2) = 2 \\
x=3:& \quad a + b(3) = 4
\end{aligned} $$
4 denklem, 2 bilinmeyen → tam çözüm yok, en iyi yaklaşımı ararız
Adım 2 — Matris Formuna Yaz
Sistemi $A \cdot \mathbf{x} = \mathbf{b}$ şeklinde yazalım. Burada bulmak istediğimiz $\mathbf{x} = \begin{bmatrix}a \\ b\end{bmatrix}$'dir.
$$ A = \begin{bmatrix} 1 & 0 \\ 1 & 1 \\ 1 & 2 \\ 1 & 3 \end{bmatrix}, \qquad
\mathbf{b} = \begin{bmatrix} 1 \\ 2 \\ 2 \\ 4 \end{bmatrix} $$
A'nın birinci sütunu hep 1 (sabit terim için), ikinci sütun x değerleri
Adım 3 — Gram-Schmidt ile Q ve R Bulma
► Birinci sütun: q₁
$a_1 = [1,\;1,\;1,\;1]^T$. Uzunluğunu hesaplayalım:
$$ \|a_1\| = \sqrt{1^2+1^2+1^2+1^2} = 2 $$
$$ r_{11} = 2, \qquad q_1 = \frac{1}{2}\begin{bmatrix}1\\1\\1\\1\end{bmatrix} $$
► İkinci sütun: q₂
$a_2 = [0,\;1,\;2,\;3]^T$. Önce $q_1$ yönündeki bileşeni çıkarıyoruz:
$$ r_{12} = a_2^T q_1 = \frac{0+1+2+3}{2} = 3 $$
$$ u_2 = \begin{bmatrix}0\\1\\2\\3\end{bmatrix} - 3 \cdot \frac{1}{2}\begin{bmatrix}1\\1\\1\\1\end{bmatrix}
= \begin{bmatrix}-3/2\\-1/2\\1/2\\3/2\end{bmatrix} $$
$$ r_{22} = \|u_2\| = \sqrt{\tfrac{9}{4}+\tfrac{1}{4}+\tfrac{1}{4}+\tfrac{9}{4}} = \sqrt{5}, \qquad
q_2 = \frac{1}{\sqrt{5}}\begin{bmatrix}-3/2\\-1/2\\1/2\\3/2\end{bmatrix} $$
Adım 4 — Q Matrisi ve R = QTA ile R Hesabı
Gram-Schmidt adımlarından elde ettiğimiz $q_1$ ve $q_2$ sütunlarını yan yana koyarak $Q$'yu yazıyoruz. Ardından $R$ matrisini doğrudan $R = Q^T A$ çarpımıyla buluyoruz — bu, Gram-Schmidt'in zaten ürettiği $r_{ij}$ değerleriyle aynı sonucu verir:
$$ Q = \begin{bmatrix}
\tfrac{1}{2} & \tfrac{-3}{2\sqrt{5}} \\[6pt]
\tfrac{1}{2} & \tfrac{-1}{2\sqrt{5}} \\[6pt]
\tfrac{1}{2} & \tfrac{1}{2\sqrt{5}} \\[6pt]
\tfrac{1}{2} & \tfrac{3}{2\sqrt{5}}
\end{bmatrix} $$
$$ R = Q^T A =
\begin{bmatrix}
\tfrac{1}{2} & \tfrac{1}{2} & \tfrac{1}{2} & \tfrac{1}{2} \\[6pt]
\tfrac{-3}{2\sqrt{5}} & \tfrac{-1}{2\sqrt{5}} & \tfrac{1}{2\sqrt{5}} & \tfrac{3}{2\sqrt{5}}
\end{bmatrix}
\begin{bmatrix} 1 & 0 \\ 1 & 1 \\ 1 & 2 \\ 1 & 3 \end{bmatrix}
= \begin{bmatrix} 2 & 3 \\ 0 & \sqrt{5} \end{bmatrix} $$
Alt sol köşe sıfır çıkar — R her zaman üst üçgen olur
Adım 5 — $Q^T \mathbf{b}$ Hesabı
$\mathbf{b} = [1,\;2,\;2,\;4]^T$ için $Q^T$ ile çarpıyoruz:
$$ Q^T \mathbf{b} =
\begin{bmatrix}
\tfrac{1}{2} & \tfrac{1}{2} & \tfrac{1}{2} & \tfrac{1}{2} \\[6pt]
\tfrac{-3}{2\sqrt{5}} & \tfrac{-1}{2\sqrt{5}} & \tfrac{1}{2\sqrt{5}} & \tfrac{3}{2\sqrt{5}}
\end{bmatrix}
\begin{bmatrix} 1 \\ 2 \\ 2 \\ 4 \end{bmatrix}
= \begin{bmatrix} \dfrac{1+2+2+4}{2} \\[10pt] \dfrac{-3(1)-1(2)+1(2)+3(4)}{2\sqrt{5}} \end{bmatrix}
= \begin{bmatrix} \dfrac{9}{2} \\[10pt] \dfrac{9}{2\sqrt{5}} \end{bmatrix} $$
Adım 6 — $R\,\mathbf{x} = Q^T\mathbf{b}$ Sistemini Çöz
$$ \begin{bmatrix} 2 & 3 \\ 0 & \sqrt{5} \end{bmatrix}
\begin{bmatrix} a \\ b \end{bmatrix}
= \begin{bmatrix} 9/2 \\ 9/(2\sqrt{5}) \end{bmatrix} $$
i
2. satırdan b'yi bul
$\sqrt{5}\,b = \dfrac{9}{2\sqrt{5}} \;\Rightarrow\; b = \dfrac{9}{2 \cdot 5} = \dfrac{9}{10} = 0{,}9$
ii
1. satırdan a'yı bul
$2a + 3(0{,}9) = 4{,}5 \;\Rightarrow\; 2a = 4{,}5 - 2{,}7 = 1{,}8 \;\Rightarrow\; a = 0{,}9$
✅ EN UYGUN DOĞRU
$$ \boxed{y = 0{,}9 + 0{,}9\,x} $$
Kontrol
| Nokta | x | y (gerçek) | ŷ = 0.9 + 0.9x | Hata | Hata² |
|---|
| P | 0 | 1 | 0.9 | +0.1 | 0.01 |
| Q | 1 | 2 | 1.8 | +0.2 | 0.04 |
| R | 2 | 2 | 2.7 | −0.7 | 0.49 |
| S | 3 | 4 | 3.6 | +0.4 | 0.16 |
| Toplam SSE = |
0.70 |
Bu doğrudan daha iyi uyan başka bir doğru yoktur — hataların kareler toplamı minimum değerinde. ✓
📊 ÖRNEK 2 — PARABOL UYDURMA
Bu sefer model bir parabol:
$$ y = a + b \cdot x + c \cdot x^2 $$
Bulmamız gereken üç katsayı: a, b, c
⚠️ DİKKAT
B(1,1) ve C(1,3) noktaları aynı $x = 1$ değerine sahip ama farklı $y$ değerleri var. Bu, tek bir eğrinin iki noktadan tam geçemeyeceği anlamına gelir. En küçük kareler yöntemi bu çelişkiyi hata toplamını minimize ederek çözer.
Adım 1 — Denklem Sistemi Kurma
Her noktayı $y = a + bx + cx^2$ denklemine koyalım:
$$ \begin{aligned}
x=0:&\quad a + b(0) + c(0)^2 = 0 \\
x=1:&\quad a + b(1) + c(1)^2 = 1 \\
x=1:&\quad a + b(1) + c(1)^2 = 3 \\
x=2:&\quad a + b(2) + c(2)^2 = 2
\end{aligned} $$
4 denklem, 3 bilinmeyen (a, b, c) → yine aşırı belirli sistem
Adım 2 — Matris Formuna Yaz
Bulmak istediğimiz $\mathbf{x} = \begin{bmatrix}a \\ b \\ c\end{bmatrix}$ için tasarım matrisi:
$$ A = \begin{bmatrix} 1 & 0 & 0 \\ 1 & 1 & 1 \\ 1 & 1 & 1 \\ 1 & 2 & 4 \end{bmatrix}, \qquad
\mathbf{b} = \begin{bmatrix} 0 \\ 1 \\ 3 \\ 2 \end{bmatrix} $$
1. sütun: sabit terim | 2. sütun: x değerleri | 3. sütun: x² değerleri
Adım 3 — Gram-Schmidt ile Q ve R Bulma
► Birinci sütun: q₁
$a_1 = [1,\;1,\;1,\;1]^T$
$$ \|a_1\| = 2, \qquad r_{11} = 2, \qquad
q_1 = \frac{1}{2}\begin{bmatrix}1\\1\\1\\1\end{bmatrix} $$
► İkinci sütun: q₂
$a_2 = [0,\;1,\;1,\;2]^T$. Önce $q_1$'e olan projeksiyon bileşenini çıkarıyoruz:
$$ r_{12} = a_2^T q_1 = \frac{0+1+1+2}{2} = 2 $$
$$ u_2 = \begin{bmatrix}0\\1\\1\\2\end{bmatrix} - 2 \cdot \frac{1}{2}\begin{bmatrix}1\\1\\1\\1\end{bmatrix}
= \begin{bmatrix}-1\\0\\0\\1\end{bmatrix} $$
$$ r_{22} = \sqrt{(-1)^2+0^2+0^2+1^2} = \sqrt{2}, \qquad
q_2 = \frac{1}{\sqrt{2}}\begin{bmatrix}-1\\0\\0\\1\end{bmatrix} $$
► Üçüncü sütun: q₃
$a_3 = [0,\;1,\;1,\;4]^T$. Hem $q_1$ hem $q_2$ yönündeki bileşenleri çıkarıyoruz:
$$ r_{13} = a_3^T q_1 = \frac{0+1+1+4}{2} = 3 $$
$$ r_{23} = a_3^T q_2 = \frac{-1(0)+0(1)+0(1)+1(4)}{\sqrt{2}} = \frac{4}{\sqrt{2}} = 2\sqrt{2} $$
$$ u_3 = \begin{bmatrix}0\\1\\1\\4\end{bmatrix}
- 3\cdot\frac{1}{2}\begin{bmatrix}1\\1\\1\\1\end{bmatrix}
- 2\sqrt{2}\cdot\frac{1}{\sqrt{2}}\begin{bmatrix}-1\\0\\0\\1\end{bmatrix} $$
$$ u_3 = \begin{bmatrix}0\\1\\1\\4\end{bmatrix}
- \begin{bmatrix}3/2\\3/2\\3/2\\3/2\end{bmatrix}
- \begin{bmatrix}-2\\0\\0\\2\end{bmatrix}
= \begin{bmatrix}1/2\\-1/2\\-1/2\\1/2\end{bmatrix} $$
$$ r_{33} = \|u_3\| = \sqrt{4 \cdot (1/2)^2} = 1, \qquad
q_3 = \begin{bmatrix}1/2\\-1/2\\-1/2\\1/2\end{bmatrix} $$
Adım 4 — Q Matrisi ve R = QTA ile R Hesabı
Gram-Schmidt'ten elde ettiğimiz $q_1, q_2, q_3$ sütunlarını yan yana yazarak $Q$'yu oluşturuyoruz. Sonra $R = Q^T A$ çarpımını yapıyoruz:
$$ Q = \begin{bmatrix}
\tfrac{1}{2} & \tfrac{-1}{\sqrt{2}} & \tfrac{1}{2} \\[6pt]
\tfrac{1}{2} & 0 & \tfrac{-1}{2} \\[6pt]
\tfrac{1}{2} & 0 & \tfrac{-1}{2} \\[6pt]
\tfrac{1}{2} & \tfrac{1}{\sqrt{2}} & \tfrac{1}{2}
\end{bmatrix} $$
$$ R = Q^T A =
\begin{bmatrix}
\tfrac{1}{2} & \tfrac{1}{2} & \tfrac{1}{2} & \tfrac{1}{2} \\[6pt]
\tfrac{-1}{\sqrt{2}} & 0 & 0 & \tfrac{1}{\sqrt{2}} \\[6pt]
\tfrac{1}{2} & \tfrac{-1}{2} & \tfrac{-1}{2} & \tfrac{1}{2}
\end{bmatrix}
\begin{bmatrix} 1 & 0 & 0 \\ 1 & 1 & 1 \\ 1 & 1 & 1 \\ 1 & 2 & 4 \end{bmatrix}
= \begin{bmatrix}
2 & 2 & 3 \\
0 & \sqrt{2} & 2\sqrt{2} \\
0 & 0 & 1
\end{bmatrix} $$
Alt üçgen tamamen sıfır — R her zaman üst üçgen çıkar
Adım 5 — $Q^T \mathbf{b}$ Hesabı
$\mathbf{b} = [0,\;1,\;3,\;2]^T$ için $Q^T$ ile çarpıyoruz:
$$ Q^T \mathbf{b} =
\begin{bmatrix}
\tfrac{1}{2} & \tfrac{1}{2} & \tfrac{1}{2} & \tfrac{1}{2} \\[6pt]
\tfrac{-1}{\sqrt{2}} & 0 & 0 & \tfrac{1}{\sqrt{2}} \\[6pt]
\tfrac{1}{2} & \tfrac{-1}{2} & \tfrac{-1}{2} & \tfrac{1}{2}
\end{bmatrix}
\begin{bmatrix} 0 \\ 1 \\ 3 \\ 2 \end{bmatrix}
= \begin{bmatrix}
\dfrac{0+1+3+2}{2} \\[10pt]
\dfrac{-1(0)+0(1)+0(3)+1(2)}{\sqrt{2}} \\[10pt]
\dfrac{1(0)-1(1)-1(3)+1(2)}{2}
\end{bmatrix}
= \begin{bmatrix} 3 \\[6pt] \sqrt{2} \\[6pt] -1 \end{bmatrix} $$
Adım 6 — $R\,\mathbf{x} = Q^T\mathbf{b}$ Sistemi
$$ \begin{bmatrix}
2 & 2 & 3 \\
0 & \sqrt{2} & 2\sqrt{2} \\
0 & 0 & 1
\end{bmatrix}
\begin{bmatrix}a\\b\\c\end{bmatrix}
= \begin{bmatrix}3\\\sqrt{2}\\-1\end{bmatrix} $$
Adım 7 — Geri Yerine Koyma ile a, b, c Bulma
i
3. satırdan c'yi bul
$1 \cdot c = -1 \;\Rightarrow\; c = -1$
ii
2. satırdan b'yi bul
$\sqrt{2}\,b + 2\sqrt{2}\,(-1) = \sqrt{2} \;\Rightarrow\; \sqrt{2}\,b = \sqrt{2} + 2\sqrt{2} = 3\sqrt{2} \;\Rightarrow\; b = 3$
iii
1. satırdan a'yı bul
$2a + 2(3) + 3(-1) = 3 \;\Rightarrow\; 2a + 6 - 3 = 3 \;\Rightarrow\; 2a = 0 \;\Rightarrow\; a = 0$
✅ EN UYGUN PARABOL
$$ \boxed{y = 3x - x^2} $$
Kontrol
| Nokta | x | y (gerçek) | ŷ = 3x − x² | Hata | Hata² |
|---|
| A | 0 | 0 | 0 | 0 | 0 |
| B | 1 | 1 | 2 | −1 | 1 |
| C | 1 | 3 | 2 | +1 | 1 |
| D | 2 | 2 | 2 | 0 | 0 |
| Toplam SSE = |
2 |
B ve C noktalarındaki +1 ve −1 hatalar tamamen simetrik — bu tam da beklenen sonuç, çünkü iki noktanın ortasından geçmek hata toplamını minimuma indiriyor. ✓
📌 ÖZET — QR ile Eğri Uydurma
Hangi model için olursa olsun 4 adım:
▪️ Modeli seç → doğru için $y = a+bx$, parabol için $y = a+bx+cx^2$
▪️ A matrisini kur → her satır bir veri noktası, sütunlar $1, x, x^2, \dots$
▪️ Gram-Schmidt ile $A = QR$ bul → sütunları sırayla birbirine dik hale getir
▪️ $R\,\mathbf{x} = Q^T\mathbf{b}$ sistemini geri yerine koyma ile çöz → katsayılar çıkar
Doğru için 2 katsayı ($a, b$), parabol için 3 katsayı ($a, b, c$) bulunur. Aynı yöntem daha yüksek dereceli polinomlar, trigonometrik fonksiyonlar veya herhangi bir doğrusal model için de geçerlidir.
← Lineer Cebir ana sayfasına dön