Áp dụng BĐT Bunhiacopxki $\left ( x\sqrt{y-1}+2y\sqrt{x-1} \right )^{2}=\left ( \sqrt{x}\sqrt{xy-x}+\sqrt{y}\sqrt{xy-y}+\sqrt{y}\sqrt{xy-y} \right )^{2}\leq \left ( x+2y \right )\left ( 3xy-x-2y \right )\leq \frac{\left ( x+2y+3xy-x-2y \right )^{2}}{4}=\left ( \frac{3xy}{2} \righ )^{2}$hay $x\sqrt{y-1}+2y\sqrt{x-1}\leq \frac{3xy}{2}$Dấu bằng xảy ra khi và chỉ khi $x=y$Thay vào phương trình ta được $x=y=2$
Điều kiện $x\geq 1,y\geq 1$Áp dụng BĐT Bunhiacopxki$\left ( x\sqrt{y-1}+2y\sqrt{x-1} \right )^{2}=\left ( \sqrt{x}\sqrt{xy-x}+\sqrt{y}\sqrt{xy-y}+\sqrt{y}\sqrt{xy-y} \right )^{2}\leq \left ( x+2y \right )\left ( 3xy-x-2y \right )\leq \frac{\left ( x+2y+3xy-x-2y \right )^{2}}{4}$hay $x\sqrt{y-1}+2y\sqrt{x-1}\leq \frac{3xy}{2}$Dấu bằng xảy ra khi và chỉ khi $x=y$Thay vào phương trình ta được $x=y=2$