Đặt $\{a,b,c\}=\{x^2,y^2,z^2\}$, và giả sử trong trường hợp $x \ge y \ge z>0$. Ta có, $x^2+y^2+z^2=3$.Khi đó $A=a\sqrt{b}+b\sqrt{c}+c\sqrt{a}-\sqrt{abc}=\sqrt{a}\sqrt{ab}+\sqrt{b}\sqrt{bc}+\sqrt{c}\sqrt{ca}-\sqrt{abc}$$=x.xy+y.yz+z.zx-xyz\leq x\cdot xy+y\cdot xz+z\cdot yz-xyz=y(x^2+z^2)=y(3-y^2)$.Ta có $y^2(3-y^2)^2=\dfrac{1}{2}.2y^2.(3-y^2).(3-y^2) \le \dfrac{1}{2}.\left ( \dfrac{2y^2+(3-y^2)+(3-y^2)}{3} \right )^3=4$Vậy $\max A =2 \Leftrightarrow a=b=c=1.$Với trường hợp $x \ge z \ge y>0$ tương tự có$A= a\sqrt{b}+b\sqrt{c}+c\sqrt{a}-\sqrt{abc}=\sqrt{a}\sqrt{ab}+\sqrt{b}\sqrt{bc}+\sqrt{c}\sqrt{ca}-\sqrt{abc}\leq $$ \leq x\cdot xz+z\cdot xy+y\cdot yz-xyz=z(x^2+y^2)=z(3-z^2)\leq2 $.Bài toán được chứng minh trọn vẹn.
Đặt $\{a,b,c\}=\{x^2,y^2,z^2\}$, và giả sử trong trường hợp $x \ge y \ge z>0$. Ta có, $x^2+y^2+z^2=3$.Khi đó $A=a\sqrt{b}+b\sqrt{c}+c\sqrt{a}-\sqrt{abc}=\sqrt{a}\sqrt{ab}+\sqrt{b}\sqrt{bc}+\sqrt{c}\sqrt{ca}-\sqrt{abc}$$=x.xy+y.yz+z.zx-xyz\leq x\cdot xy+y\cdot xz+z\cdot yz-xyz=y(x^2+z^2)=y(3-y^2)$.Ta có $y^2(3-y^2)^2=\dfrac{1}{2}.2y^2.(3-y^2).(3-y^2) \le \dfrac{1}{2}.\left ( \dfrac{2y^2+(3-y^2)+(3-y^2)}{3} \right )^3=4$Vậy $\max A =2 \Leftrightarrow a=b=c=1.$Lời giải trên còn thiếu trường hợp $x \ge z \ge y>0$.
Đặt $\{a,b,c\}=\{x^2,y^2,z^2\}$, và giả sử trong trường hợp $x \ge y \ge z>0$. Ta có, $x^2+y^2+z^2=3$.Khi đó $A=a\sqrt{b}+b\sqrt{c}+c\sqrt{a}-\sqrt{abc}=\sqrt{a}\sqrt{ab}+\sqrt{b}\sqrt{bc}+\sqrt{c}\sqrt{ca}-\sqrt{abc}$$=x.xy+y.yz+z.zx-xyz\leq x\cdot xy+y\cdot xz+z\cdot yz-xyz=y(x^2+z^2)=y(3-y^2)$.Ta có $y^2(3-y^2)^2=\dfrac{1}{2}.2y^2.(3-y^2).(3-y^2) \le \dfrac{1}{2}.\left ( \dfrac{2y^2+(3-y^2)+(3-y^2)}{3} \right )^3=4$Vậy $\max A =2 \Leftrightarrow a=b=c=1.$
Với trường hợp $x \ge z \ge y>0$
tương tự có$A= a\sqrt{b}+b\sqrt{c}+c\sqrt{a}-\sqrt{abc}=\sqrt{a}\sqrt{ab}+\sqrt{b}\sqrt{bc}+\sqrt{c}\sqrt{ca}-\sqrt{abc}\leq $$ \leq x\cdot xz+z\cdot xy+y\cdot yz-xyz=z(x^2+y^2)=z(3-z^2)\leq2 $.Bài toán được chứng minh trọn vẹn.