En genel haliyle Lagrange Çarpanı yöntemi, aşağıdaki türdeki optimizasyon problemlerini çözer:
Burada $f$ ve tüm $g_j$'ler sürekli türevlenebilir fonksiyonlardır. Kısıt sayısı $m$, değişken sayısı $n$'den küçük olmalıdır ($m < n$). Aksi halde sistem aşırı kısıtlı olur ve genellikle çözüm yoktur.
Her kısıt için bir Lagrange çarpanı ($\lambda_j$) kullanılır. Genel Lagrange fonksiyonu:
Lagrange fonksiyonu $n+m$ değişkene sahiptir: $n$ orijinal değişken ($x_1, \dots, x_n$) ve $m$ Lagrange çarpanı ($\lambda_1, \dots, \lambda_m$).
Lagrange fonksiyonunun tüm değişkenlere göre kısmi türevleri sıfıra eşitlenir. Bu bize $n+m$ denklem verir:
İlk $n$ denklem, $\nabla f = \sum \lambda_j \nabla g_j$ vektör denkleminin bileşen formudur. Son $m$ denklem ise kısıtların kendisidir.
Vektör formunda, genel birinci mertebe koşul:
Yani $f$'nin gradyanı, kısıtların gradyanlarının doğrusal kombinasyonu olarak yazılabilir.
Kısıtlar $g_j(x) = c_j$ şeklinde verildiğinde, $\lambda_j$ değeri $j$. kısıttaki bir birimlik değişimin amaç fonksiyonuna olan marjinal etkisini gösterir:
Bu, her bir kısıtın probleme ne kadar önemli olduğunu anlamak için kullanılır. Büyük $\lambda_j$ değerleri, o kısıtın aktif ve kritik olduğunu gösterir.
1. Değişkenler: $x_1, x_2, x_3, x_4$ (4 değişken)
2. Kısıtlar: $g_1=x_1+x_2+x_3+x_4-4=0$, $g_2=x_1^2+x_2^2+x_3^2+x_4^2-4=0$ (2 kısıt)
3. Lagrange fonksiyonu (6 değişkenli):
4. FOC (6 denklem):
5. Çözüm Stratejisi:
İlk dört denklemde simetri vardır. $x_1=x_2=x_3=x_4$ olduğunu varsayalım. O zaman:
Kısıt 1: $4x=4 \Rightarrow x=1$
Kısıt 2: $4x^2=4 \Rightarrow x^2=1 \Rightarrow x=1$ veya $x=-1$
$x=1$ için $f=1$ (maksimum), $x=-1$ için $f=1$ (maksimum)
$(1,1,1,1)$ ve $(-1,-1,-1,-1)$ noktaları $f=1$ ile maksimumdur. Bu örnek, genel formülasyonun simetrik çözümler verdiğini göstermektedir. $\lambda_1$ ve $\lambda_2$ değerleri, bu simetrik çözümden hesaplanabilir.
$n$ değişkenli ve $m$ kısıtlı problem için Lagrange fonksiyonu $L = f - \sum \lambda_j g_j$ ile $n+m$ denklemli sistem kurulur. $\lambda_j$ değerleri, $j$. kısıtın gölge fiyatı olarak yorumlanır. Bu genel formülasyon, Lagrange yönteminin çok boyutlu optimizasyon problemlerine uygulanmasını sağlar.
Genel formülasyonu öğrendik. Bir sonraki modülde "KKT ile Bağlantı" başlığı altında eşitsizlik kısıtlarına geçişi ve Karush-Kuhn-Tucker koşullarını inceleyeceğiz.