A130 16 PDF

 

Optimización Condiciones de Karush-Kuhn-Tucker Dr. E Uresti

ITESM

Condiciones de Karush Kuhn Tucker

Profr. E. Uresti p. 1/30

 

Historia Las condiciones necesarias que deben satisfacer los óptimos de problemas de optimización no lineal con restricciones de desigualdad fueron

Historia ´ Formulacion Uso Ejemplo 1 Ejemplo 2

publicadas por primera vez (1939) en la tesis de Maestría de William Karush (1917-1997) (en aquél entonces estudiante de matemáticas de la

Ejemplo 3 Ejercicios

Universidad de Chicago) , aunque fueron renombradas tras un artículo en una conferencia de Harold W. Kuhn y Albert W. Tucker en 1951. Las de Karush-Kuhn-Tucker son condiciones una generalización del método de los(KKT) multiplicadores de Lagrange para restricciones de desigualdad.

Condiciones de Karush Kuhn Tucker

Profr. E. Uresti p. 2/30

 

Formulación Considere el problema de optimización

Historia ´ Formulacion Uso Ejemplo 1 Ejemplo 2

Min f (x1 , x2 , . . . , xn )

Ejemplo 3 Ejercicios

sujeto a g1 (x1 , x2 , . . . , xn )   ≤   0 g2 (x1 , x2 , . . . , xn )   ≤   0 .. gm (x1 , x2 , . . . , xn )   ≤   0

(0.1)

Condiciones de Karush Kuhn Tucker

Profr. E. Uresti p. 3/30

 

El método de solución procede de la siguiente manera. Cambiemos cada restricción de desigualdad  gi   ≤ 0  a una restricción de igualdad

Historia ´ Formulacion Uso Ejemplo 1 Ejemplo 2

introduciendo una variable   si  de la siguiente manera: gi   ≤ 0 → gi   + s2i   = 0

Ejemplo 3 Ejercicios

De acuerdo a la técnica de los multiplicadores de Lagrange se construye la función: F (x, λ, s) =   f (x) +

m 

λi · (gi  +  s2i )

i=1

Los puntos que minimizan a   f  sujeta a las restricciones   gi   ≤ 0   (1 ≤ i ≤ m) están dentro de los puntos críticos de   F :

Condiciones de Karush Kuhn Tucker

Profr. E. Uresti p. 4/30

 



 Que hacen cero las parciales con respecto a las variables   x j ( j   = 1, . . . , n): m

∂ F  =   ∂ f  + ∂ x j ∂ x j 

λ

i

i=1

∂ gi = 0 ∂ x j

 Que hacen cero las parciales con respecto a las variables   λi (i   = 1, . . . , m): ∂ F 

=   gi  +  s2i   = 0 ↔ gi   ≤ 0

∂ λi   Que hacen cero las parciales con respecto a las variables   s i (i   = 1, . . . , m): ∂ F  = 2 λi si   = 0 ↔ λi si   = 0 ↔ λi gi   = 0 ∂ si

Condiciones de Karush Kuhn Tucker

Profr. E. Uresti p. 5/30

 

Teorema

Historia ´ Formulacion Uso Ejemplo 1 Ejemplo 2

Suponga una formulación para el problema anterior de minimización.. Si   x0   = (a1 , a2 , . . . , an )  es un óptimo, minimización entonces deben existir números reales llamados multiplicadores λ 1 ,  λ 2 , . . . ,λm  no negativos tales que (a1 , a2 , . . . , an , λ1 , . . . , λm )  es un punto crítico para   F . Es decir que se cumple:

+

∂ f (xo ) ∂ xj

+

m

i=1

Bloque I

 λi

∂ gi (xo ) ∂ xj

=

0   j   = 1, 2  . . . , n

Bloque II: Condición de Holgura Complementaria

λi gi (xo )

=

0   i   = 1, 2, . . . , m

Bloque III

gi   ≤   0   i   = 1 , 2 , . . . , m Observe que los valores de   si  se obtienen de la relación gi   + s2i   = 0  y de que   gi   ≤ 0.

(0.2)

Ejemplo 3 Ejercicios

Condiciones de Karush Kuhn Tucker

Profr. E. Uresti p. 6/30

 

Si ahora el problema es de maximización:

Historia ´ Formulacion Uso Ejemplo 1 Ejemplo 2

Max f  f ((x1 , x2 , . . . , xn )

Ejemplo 3 Ejercicios

sujeto a

g1 (x1 , x2 , . . . , xn )   ≤   0 g2 (x1 , x2 , . . . , xn )   ≤   0 (0.3)

.

gm (x1 , x2 , . . . , xn )   ≤   0 Para su solución lo cambiamos a un problema de minimización para −f  f ((x). En este caso la función   F  queda en la forma:

F ((x, λ, s) = −f  F  f ((x) +

m  i=1

λi · (gi   + s2i )

Condiciones de Karush-Kuhn-Tucker

Profr. E. Uresti - p. 7/30

 

Teorema Suponga una formulación para el problema anterior en el caso de maximización de  maximización.. Si   x0   = (a1 , a2 , . . . , an )  es un óptimo, entonces deben existir números reales llamados multiplicadores λ 1 ,  λ 2 , . . . ,λm  no negativos tales que (a1 , a2 , . . . , an , λ1 , . . . , λm )  es un punto crítico para   F . Es decir, que se cumple:

−

∂ f (xo ) ∂ xj

+

m

i=1

Bloque I

 λi

∂ gi (xo ) ∂ xj

=

0   j   = 1, 2  . . . , n

Bloque II

λi gi (xo )

=

(0.4)

0   i   = 1, 2, . . . , m

Bloque III gi   ≤   0   i   = 1 , 2 , . . . , m

Historia ´ Formulacion Uso Ejemplo 1 Ejemplo 2 Ejemplo 3 Ejercicios

Condiciones de Karush-Kuhn-Tucker

Profr. E. Uresti - p. 8/30

 

Uso de las Condiciones KKT La forma de operar las condiciones de KKT será la siguiente: Como lo que buscamos es el punto   xo  y de inicio se desconoce, entonces las ecuaciones de las condiciones de los bloques I y II se piensan ′

′

como un sistema de ecuaciones en las variables   xj s   y   λj s: Se intenta resolver tal sistema de ecuaciones y en caso de encontrarse las soluciones se revisan una a una para ver cual de ella cumple ′

que los   λj s  son no negativos y que también se cumplen las restricciones   gi   ≤ 0  en los puntos encontrados. Normalmente se realiza una tabla donde se hace la verificación. Observe también es posible trabajar el problema de maximización resolviendo el problema de minimización pero conservando aquellos puntos que tengan los valores de los multiplicadores no positivos.

Historia ´ Formulacion Uso Ejemplo 1 Ejemplo 2 Ejemplo 3 Ejercicios

Condiciones de Karush-Kuhn-Tucker

Profr. E. Uresti - p. 9/30

 

Ejemplo 1 Encuentre los valores mínimo y máximo de la función   f (x1 , x2 ) = 3 − x1 − x2  sujeta a las restricciones   0 ≤ x1 ,   0 ≤ x2   y   2 x1  +  x2   ≤ 2.

Historia ´ Formulacion Uso Ejemplo 1 Ejemplo 2 Ejemplo 3 Ejercicios

Condiciones de Karush-Kuhn-Tucker

Profr. E. Uresti - p. 10/30

 

Ejemplo 1 Encuentre los valores mínimo y máximo de la función   f (x1 , x2 ) = 3 − x1 − x2  sujeta a las restricciones   0 ≤ x1 ,   0 ≤ x2   y   2 x1  +  x2   ≤ 2.

Historia ´ Formulacion Uso Ejemplo 1 Ejemplo 2

Solucion ´

Ejemplo 3 Ejercicios



 Primero cambiemos las restricciones a la forma gi   ≤ 0:

0 ≤ x1   →   g1   = −x1   ≤ 0 0 ≤ x2   →   g2   = −x2   ≤ 0 x1  +  x2   ≤ 2   →   g3   = 2 x1  + x2 − 2 ≤ 0

Condiciones de Karush-Kuhn-Tucker

Profr. E. Uresti - p. 10/30

 



 Resolvamos el problema de minimización primeramente. En este caso las condiciones son:

∂ f (xo ) ∂ x1

+

∂ f (xo ) ∂ x2

+

Bloque I

m

 λi

∂ gi (xo ) ∂ x1

=   −1 + 2 λ1 − λ2

 λ i=1 i

∂ gi (xo ) ∂ x1

=   −1 + λ +  λ1 − λ3

i=1

m

 

=0

 

=0

Bloque II: Condición de Holgura Complementaria λ1 g1   =   λ1 (2 x1   + x2 − 2) = 0

λ2 g2   =   −λ2 x1

 

=0

λ3 g3   =   −λ3 x2

 

=0

x1   x2   λ1   λ2   λ3   g1   g2   g3   f  0 1

0 0

0

2

 

0 1/2

-1 0

-1 -1/2

-2 0

0 -1

0 0

3 2

1

1

0

0

0

-2

1

Condiciones de Karush-Kuhn-Tucker

Profr. E. Uresti - p. 11/30

 



 Para determinar el máximo las condiciones quedan: Bloque I −

∂g ( m i=1 i ∂x ) + m  λ ∂ g (

∂ f (xo )

∂ x1 ∂ f (xo − ∂x 2

o)

i

x

i

x

1

+

i=1 λi

o)

∂ x1

= =

1 + 2 λ1 − λ2 1 + λ +  λ1 − λ3

 

 

=0 =0

Bloque II: Condición de Holgura Complementaria

λ1 g1   =   λ1 (2 x1   + x2 − 2) λ2 g2   =   −λ2 x1  

=0 =0

λ3 g3   =   −λ3 x2

=0

 

x1   x2   λ1   λ2   λ3   g1   g2   g3   f  0

0

0

1

1

-2

0

0

3

1 0

0 2

-1/2 -1

0 -1

1/2 0

0 0

-1 0

0 -2

2 1

Condiciones de Karush-Kuhn-Tucker

Profr. E. Uresti - p. 12/30

 

Observamos que las tablas para minimización y para maximización son idénticas salvo que los valores de los multiplicadores están cambiados de signo. Por tanto, la estrategia conveniente para optimizar una función sujeta a restricciones de desigualdad por el método de las condiciones de KKT será: ´ de minimizacion ´  y 1. Plantear el problema  como si se tratara´ solo resolver el sistema de ecuaciones correspondientes. 2. Eliminar aquellos puntos encontrados que no satisfacen las restricciones  g i   ≤ 0. 3. Eliminar aquellos puntos que tienen a la vez multiplicadores positivos y negativos. 4. Para Para minimización  minimización:: escoger dentro de aquellos puntos que tienen multiplicadores tienen  multiplicadores no negativos aquél negativos  aquél que tienen la menor la  menor evaluación de la función objetivo. evaluación de 5. Para maximización Para  maximización:: escoger dentro de aquellos puntos que tienen  multiplicadores no positivos aquél tienen multiplicadores positivos  aquél que tienen la mayor la  mayor evaluación de evaluación  de la función objetivo.

Historia ´ Formulacion Uso Ejemplo 1 Ejemplo 2 Ejemplo 3 Ejercicios

Condiciones de Karush-Kuhn-Tucker

Profr. E. Uresti - p. 13/30

 

Ejemplo 2 Encuentre los máximos y mínimos  absolutos  de la función: f (x, y ) =   x2 + y 2 + y − 1

Historia ´ Formulacion Uso Ejemplo 1 Ejemplo 2

En la región   S  definida   definida por

Ejemplo 3 Ejercicios



2

2

2



S   = (x, y ) ∈ R |x + y ≤ 1

Condiciones de Karush-Kuhn-Tucker

Profr. E. Uresti - p. 14/30

 

Solucion ´

Utilizaremos las condiciones KKT para caracterizar los máximos y los mínimos. Aquí  g  g   =   g (x, y ) =   x2 + y 2 − 1 ≤ 0. En la figura  figura   1  aparecen los preparativos para la solución del problema, así como sus puntos críticos. El orden de las variables en la matriz es  x − y − t.

Figura 1: Preparativos y puntos críticos del ejemplo 2

Condiciones de Karush-Kuhn-Tucker

Profr. E. Uresti - p. 15/30

 

x

y

t

g

f

0

-1/2

0

-3/4

-5/4

0 0

-1 1

-1/2 -3/2

0 0

-1 1

 

Figura 2: Sustitución de los puntos críticos en x , y , t , g , f    [ ] Por lo tanto,   f  f ((x   = 0, y   = −1/2) = −5/4  es el mínimo de la función y

f ((x   = 0, y  = 1) = 1  es el valor máximo. f 

Condiciones de Karush-Kuhn-Tucker

Profr. E. Uresti - p. 16/30

 

Ejemplo 3 Un comerciante puede comprar hasta 17.25 onzas de un producto químico A a 10 dólares cada onza. Se puede convertir una onza del producto químico A en una onza del producto I a un costo de 3 dólares a onza. Asimismo, una onza del químico A se puede convertir en una onza del producto II a un costo de 5 dólares la onza. Si se producen   x1  onzas del producto I se venderá a  3  30 0 − x1 dólares la onza, mientras que si se producen   x2  onzas del producto II se venderá a  5  50 0 − x2  dólares la onza. Determine cómo el comerciante puede maximizar sus ganancias.

Historia ´ Formulacion Uso Ejemplo 1 Ejemplo 2 Ejemplo 3 Ejercicios

Condiciones de Karush-Kuhn-Tucker

Profr. E. Uresti - p. 17/30

 

Ejemplo 3 Un comerciante puede comprar hasta 17.25 onzas de un producto químico A a 10 dólares cada onza. Se puede convertir una onza del producto químico A en una onza del producto I a un costo de 3 dólares a onza. Asimismo, una onza del químico A se puede convertir en una onza del producto II a un costo de 5 dólares la onza. Si se producen   x1  onzas del producto I se venderá a  3  30 0 − x1 dólares la onza, mientras que si se producen   x2  onzas del producto II se venderá a  5  50 0 − x2  dólares la onza. Determine cómo el comerciante puede maximizar sus ganancias. ´ Variables de Decision  

  x1  = Onzas del producto I producidas   x2  = Onzas del producto II producidas

Objetivo

Max z   =   x1 (30 − x1 ) + x +  x2 (50 − x2 ) − 3 x1 − 5 x2 − 10 (x1   + x2 ) Restricciones

x1   + x2   ≤ 17 17..25 25,,   0 ≤ x1 ,   0 ≤ x2

Historia ´ Formulacion Uso Ejemplo 1 Ejemplo 2 Ejemplo 3 Ejercicios

Condiciones de Karush-Kuhn-Tucker

Profr. E. Uresti - p. 17/30

 

Así:

f    =   x1 (30 − x1 ) + x +  x2 (50 − x2 ) − 3 x1 − 5 x2 − 10 (x1   + x2 ) g1   =   x1   + x2 − 17 17..25 ≤ 0 g2   =   −x1 ≤ 0 g3   =   −x2 ≤ 0 Las condiciones de KKT que debe satisfacer el óptimo son (Observe que se uso el criterio para maximizar con −f ; por tanto, los multiplicadores no deben ser negativos):

−  ∂∂xf 1

+

  ∂ f 

+

− ∂x

2

3 i ·   ∂g  λ i3=1   ∂∂xg

i

1

i=1

 λi ·

i

∂ x1

Bloque I

= −17 + 2 x1   + λ1 − λ2   =

0

= −35 + 4 x2   + λ1 − λ3   =

0

Bloque II

λ1 · (g1 ) =   λ1 (  (x x1   + x2 − 17 17..25)

=

0

λ2 · (g2 ) = −λ2 x1   =

0

λ3 · (g3 ) = −λ3 x2   =

0

Historia ´ Formulacion Uso Ejemplo 1 Ejemplo 2 Ejemplo 3 Ejercicios

Condiciones de Karush-Kuhn-Tucker

Profr. E. Uresti - p. 18/30

 

Resolviendo el sistema anterior con Maple obtenemos los siguientes puntos. En la tabla se tabula cada una de las restricciones evaluada en el punto correspondiente. Recuerde que las  λ s deben ser no negativas y las restricciones deben cumplirse (gi   ≤ 0):

x1

 

x2

0 8.50

0 0

17.25

0

0 8.50

17.5 17.5

0

17.25

 

λ1 0 0

 

   

-17.5 0 0

λ2

λ3

-17. 0    

 

 

0

 

g1 (x)   g2 (x)   g2 (x)

-35.   -17.25 -35.   -8.75

 

-52.5

-17. 0

 

0 0

.500   -16.5

 

0

     

0

f ((x) f 

0 -8.50

0 0

0 72.25

-17.25

0

-4.3125

-17.5 -17.5

306.25 378.5

-17.25

306.1875

.25   0 8.75   -8.50 0

 

0

4.125 13.125 8.75 0 0 0 -4.125 -13.125 340.21875 Por consiguiente, el único punto sobrevieviente es el del renglón 7:   x1   = 4.125   y

x2   = 13 13..125  con una evaluación de  3  340 40..21875.

Condiciones de Karush-Kuhn-Tucker

Profr. E. Uresti - p. 19/30

 

Nota

Si se utiliza LINGO para resolver el problema codificándolo como

MAX=x1*(30-x1)+x2*(50-x2)-3*x1-5*x2-10*(x1+x2); x1+x2   0  y que el punto   P  las cumple. Por tanto, el único punto máximo de f  sujeto   sujeto a las restricciones es   P  P ((x1 = 4.125 125,, x2 = 13. 13.125 125,, t1 = 8.75 75,, t2 = 0, t3 = 0) y que tiene una evaluación de 340.219 

Figura 6: Verificación de restricciones para el ejemplo 3

Condiciones de Karush-Kuhn-Tucker

Profr. E. Uresti - p. 24/30

 

Ejercicios Los siguientes serán los ejercicios de tarea para este tema.

Historia ´ Formulacion Uso Ejemplo 1 Ejemplo 2 Ejemplo 3 Ejercicios

Condiciones de Karush-Kuhn-Tucker

Profr. E. Uresti - p. 25/30

 

Ejercicio 1

Utilizando las condiciones de KKT resuelva el problema: Max z   =   x1 − x2 sujeto a la condición: 2

2

g1 (x1 , x2 ) =   x1 + x2 − 1 ≤ 0 Indique en orden los valores de   x1 ,   x2   y de   z .

Historia ´ Formulacion Uso Ejemplo 1 Ejemplo 2 Ejemplo 3 Ejercicios

Condiciones de Karush-Kuhn-Tucker

Profr. E. Uresti - p. 26/30

 

Ejercicio 2

Utilice las condiciones de KKT para encontrar la solución óptima del siguiente problema: Min z   = (x1 − 3)2 + (x2 − 5)2 sujeto a: g (x1 , x2 ) =   x1  +  x2 − 7 ≤ 0 x1   ≥   0 x2   ≥   0 Indique en orden los valores de   x1 ,   x2   y de   z .

Historia ´ Formulacion Uso Ejemplo 1 Ejemplo 2 Ejemplo 3 Ejercicios

Condiciones de Karush-Kuhn-Tucker

Profr. E. Uresti - p. 27/30

 

Ejercicio 3

Utilice las condiciones de KKT para encontrar la solución óptima del siguiente problema: Max z   = (x1 − 1)2 + (x2 − 2)2 sujeto a: g1 (x1 , x2 ) =   −x1   + x2 − 1 = 0 g2 (x1 , x2 ) =   x1  +  x2 − 2 ≤ 0 x1   ≥   0 x2   ≥   0

Indique en orden los valores de   x1 ,   x2   y de   z . Sugerencia: Codifique la restricción   g1   = 0  mediante las dos restricciones   g1   ≤ 0   y   g1   ≥ 0   (−g1   ≤ 0).

Historia ´ Formulacion Uso Ejemplo 1 Ejemplo 2 Ejemplo 3 Ejercicios

Condiciones de Karush-Kuhn-Tucker

Profr. E. Uresti - p. 28/30

 

Ejercicio 4 Una compañía de energía eléctrica enfrenta demandas de energía durante los tiempos de carga máxima y no máxima. Si cobra un precio de  p 1  dólares el kilowatt-hora durante el tiempo de carga máxima, entonces los clientes pedirán   60 − 0.5 p1  kwh de energía. Si se cobra un precio de   p2  dólares el kilowatt-hora, entonces los clientes pedirán   40 − p2  kwh. La compañía tiene que tener la suficiente capacidad para satisfacer la demanda durante los dos tiempos. A la compañía le cuesta 10 dólares al día mantener cada kilowatt-hora de capacidad. Determine cómo la compañía puede maximizar los ingresos diarios menos los costos de operación. Indique   la capacidad de la compañía en kwh, 

 el precio en dólares durante el tiempo de demanda máxima, y



 el precio en dólares fuera de demanda máxima.

Historia ´ Formulacion Uso Ejemplo 1 Ejemplo 2 Ejemplo 3 Ejercicios

Condiciones de Karush-Kuhn-Tucker

Profr. E. Uresti - p. 29/30

 

Ejercicio 5

Se disponen semanalmente de un total de 160 horas de mano de obra a 15 dólares la hora. Se puede conseguir mano de obra adicional a 25 dólares la hora. Se puede obtener capital en cantidades ilimitadas a un costo de 5 dólares la unidad de capital. Si se disponen de   K  unidades   unidades de capital y de   L  horas de mano de obra, entonces se pueden producir   L1/2 K 1/3 máquinas. Se vende cada máquina a 270sus dólares. ¿CómoIndique puede la empresa maximizar ganancias?   el total de horas de mano de obra a utilizar, 

 el total de unidades de capital, y   el total de máquinas a producir.

Historia ´ Formulacion Uso Ejemplo 1 Ejemplo 2 Ejemplo 3 Ejercicios