Đặt f(x,y)=−5x2−2xy−2y2+14x+10y−20. Ta có
f(x,y)=−5x2−2x(y−7)−2y2+10y−20.
Coi đây như PT bậc hai với biến x, và y là tham số thì
maxf(x,y)=−Δ4a=(y−7)2−5(2y2−10y+20)5=−95y2+365y−515.
tại x=−b2a=y−75.
Bây giờ thì chỉ cần tìm GTLN của g(y)=−95y2+365y−515. Và cũng làm tương tự như trên ta được
maxg(y)=−Δ4a=−3.
tại y=−b2a=2.
Vậy GTLN của −5x2−2xy−2y2+14x+10y−20 là −3 khi
{x=y−75y=2⇔{x=−1y=2