Dễ thấy:A=2533√4.(ab+bc+ca)≥25ab+bc+ca+2
Xét B=a+1c+1+c+1b+1+b+1a+1
=(a+1)2.(b+1)+(c+1)2.(a+1)+(b+1)2.(c+1)abc+ab+bc+ca+a+b+c+1
=(a2+2a+1)(b+1)+(b2+2b+1)(c+1)+(c2+2c+1)(a+1)abc+ab+bc+ca+4
Có: abc≥0. Nên:
A=B≤a2.b+b2.c+c2.a+a2+b2+2ab+2bc+2ca+c2+3a+3b+3c+3ab+bc+ca+4
=a2.b+b2.c+c2.a+(a+b+c)2+9+3ab+bc+ca+4
=a2.b+b2.c+c2.a+21ab+bc+ca+4
Xét:a2.b+b2.c+c2.a≤a2.b+b2.c+c2.a+abc
Giả sử b là số nằm giữa a và c. Ta có:
(b−a)(b−c)≤0⇔b2+ac≤ab+bc
⇔b2.c+c2.a≤abc+c2.b
Nên a2.b+b2.c+c2.a+abc
≤a2.b+2abc+c2.b=b(a+c)2
=12.[2b.(a+c)(a+c)]
≤12.(2a+2b+2c)327
≤4
Vậy B≤25ab+bc+ca+4
Dấu = xảy ra ⇔ a=2;b=1;c=0 và các hoán vị của a;b;c