Lagrange çarpanı

Optimizasyon yaparken, Lagrange çarpanı methodu (Joseph Louis Lagrange^[1]'dan sonra isimlendirildi), bir fonksiyonun maksimum ve minimum noktalarını bulmak için kullanılan bir yöntemdir.

Örnek olarak, (bkz. resim 1), optimizasyon problemine bakarsak;

g(x, y) = c denklemi ile sınırlandırılmış

f(x, y) işlevinin (fonksiyonunun) enbüyük değeri.

Burada f ve g fonksiyonlarının ilk kısmi türevilerinin devamlı olması gerekmektedir. Lagrange çarpanı diye isimlendirdiğimiz yeni bir değişken tanımlıyoruz (λ) ve lagrange işlevimiz aşağıdaki şekilde tanımlanıyor;

${\displaystyle \Lambda (x,y,\lambda )=f(x,y)+\lambda \cdot {\Big (}g(x,y)-c{\Big )},}$

burada işleve λ çıkarabilir de eklenebilir de, iki durumda da aynı sonuç elde edilebilir. Eğer f(x₀, y₀) orijinal sınırlandırılmış problemde f(x, y)'nin maksimum noktasıysa, öyle bir λ₀ noktası olacaktır ki ve (x₀, lagrange fonksiyonu için y₀, λ₀) durgun nokta olur (durgun noktalar, Λ fonksiyonunun ilk kısmi türevinin sıfır olduğu noktalardır.). Gelgelelim, original problemin her sabit nokta için bir çözümü olmayabilir. Lagrange methodu, sınırlandırılmış problemde optimizasyon yapabilmek için gerekli işlevi elde etmemizi sağlar.^{[2][3][4][5][6]} Ayrıca, gerekli koşullar, en küçük (minimum) ve en büyük (maksimum) noktalar için vardır.

Calculustaki en popüler problemlerden biri, bir fonksiyonun maksimumunu veya minimumunu bulmaktır ama genellikle zordur, kapalı bir yapı bulmak karışık fonksiyonlar için. Ne zaman bir fonksiyonu mümkün olduğunca küçük veya büyük yapmaya çalıştığımızda karşılaşabiliriz. Lagrange çarpanı methodu güçlü bir araçtır, bu tarz problemleri, açıkça çözme gereksinimi olmadan çözer ve fazladan değişkenleri yok etmek için kullanır.

Aşağıda tanıtılan iki boyutlu problemi ele alalım:

en büyük olan f(x, y)

bağımlı olan g(x, y) = c

Sezgisel olarak lagrange çarpanını, maksimum noktasında, f(x, y) fonksiyonu, g = c bu fonksiyonun komşu noklarının yönünde artamaması gerektiğidir. Eğer artıyorsa, g = c yönünde daha büyük bir değere gidilebilir, bu başlangıç noktası aslında maksimum noktası değil demektir.

Bir fonksiyonun eşyükselti eğrileri gözümüşde canlandırabiliriz. Örnek olarak bir f fonksiyonu için f(x, y) = d herhangi bir d değeri için ve eşlik yükselti eğrisi için g(x, y) = c şeklinde yazılabilir.

Farz edelim g=c hattı üstünde yürüdük. f'nin biz yürüdükçe değişmeyen noktalarını bulmak istiyoruz, çünkü bu noktalar maxima olabilirler. İki bu durum oluşabilir; İlki, biz f hattını takip ediyorsak, çünkü f tanımı gereği, f değişmeyecektir biz onun hattının bulunduğu çizgide yürüdükçe ve bu da f ve g'nin yükselti çizgilerinin paralel olduğunu gösterir. İkici olası durum da, f'nin yönünün değişmediği bir noktaya ulaştığımız durumlarda ortaya çıkar.

İlk olası durumu ele alırsak, kontrol etmek için, fonksiyonun gradyanı yükselti çizgisine dik olduğundan dolayı, f ve g'nin yükselti eğrileri paralel olurlar, sadece ve sadece f ve g'nin gradyanı paralel ise. Böylelikle biz öyle (x,y) noktaları istiyoruzki g(x,y)=c olsun ve

${\displaystyle \nabla _{x,y}f=-\lambda \nabla _{x,y}g}$,

herhangi bir λ için

${\displaystyle \nabla _{x,y}f=\left({\frac {\partial f}{\partial x}},{\frac {\partial f}{\partial y}}\right),\qquad \nabla _{x,y}g=\left({\frac {\partial g}{\partial x}},{\frac {\partial g}{\partial y}}\right).}$

ayrı ayrı gradyanlardır. Sabit olan λ gereklidir, çünkü iki gradyan vektörleri paralel olduğu halde, gradyan vektörlerinin büyüklükleri genellikle eşit olmazlar ve eksi işareti geleneksellikten geliyor. Aynı zamanda, bu sabit Lagrange çarpanı diye adlandırılmıştır.

Bu method aynı zamanda ikici olası durumuda çözüyor: eğer f herhangi bir yönde değişmiyorsa onun gradyanı sıfırdır ve Lagrange çarpanını sıfır seçerek çözüme ulaşabiliriz g bağımsız bir şekilde.

Bu koşulları tek bir denklemde birleştirmek için, yardımcı bir fonksiyon tanıtacağız,

${\displaystyle \Lambda (x,y,\lambda )=f(x,y)+\lambda \cdot {\Big (}g(x,y)-c{\Big )},}$

ve

${\displaystyle \nabla _{x,y,\lambda }\Lambda (x,y,\lambda )=0.}$

'nin için çözeceğiz.

Bu Lagrange çarpanının methodudur. Dikkate alın ki ${\displaystyle \nabla _{\lambda }\Lambda (x,y,\lambda )=0}$, g(x, y) = c demektir.

f'nin zoraki oluşturulmuş uç noktası Lagrangian Λ'nın kritik noktalarıdır, ama Λ'nın lokal uç noktaları değildir.

Lagrangian, Hamiltonian olarak yeniden düzenlenebilir ve bu durumda çözümler lokal minimadır Hamiltonian için. Optimal kontrol teorisinde bu yapılmıştır, Pontryagin's minimum prensibi formunda.

Lagrangian'nın çözümlerinin extrema olması şart olmadığından dolayı zorluklar ortaya çıkarmaktadır, sayısal optimizasyonlar için. Bunlar gradyanın büyüklüğünü hesaplayarak belirlenebilir.