Đk $x >0,-3 \le y \ne 0$
$pt(1)\Leftrightarrow \frac{2x^2+4y^2}{xy} \ge -1(*)$
Xét $-3\le y<0$
$(*)\Leftrightarrow 2x^2+4y^2 \le -xy$
$\Leftrightarrow 2x^2+xy+4y^2 \le 0\Leftrightarrow (2y+\frac14x)^2+\frac{31}{16}x^2 \le0$ (luôn sai vì $y\ne0$)
Xét $ y > 0,(*)\Leftrightarrow 2x^2+xy+4y^2 \ge 0$ (luôn đúng $\forall x >0,y>0$)
$\Rightarrow \color{red}{x>0,y>0}$
$pt(1)\Leftrightarrow \frac{x^2+2y^2}{\sqrt{xy}}+\frac{\sqrt{xy}}2=2\sqrt{(2x-3y)(x+y)} $
Áp dụng bđt côsi, ta có :
$VT=2\sqrt{(2x-3y)(x+y)} \le 2\sqrt{\frac{(2x-3y)^2+(x+y)^2}{2}}=\sqrt{10(x^2-2xy+2y^2)}$
$\Leftrightarrow VT^2 \le 10(x^2-2xy+2y^2)$
$\Leftrightarrow \frac{(x^2+2y^2)^2}{xy}+\frac{xy}4+x^2+2y^2 \le(x^2-2xy+2y^2)$
$\Leftrightarrow \frac{(x^2+2y^2)^2}{xy}+\frac{81xy}4 \le9(x^2+2y^2)$
Mà theo bđt cosi thì $\frac{(x^2+2y^2)^2}{xy}+\frac{81xy}4 \ge9(x^2+2y^2)$
$\Rightarrow$ dấu bằng xảy ra và tại $\frac{x^2+2y^2}{\sqrt{xy}}=\frac{9\sqrt{xy}}2$
$\Rightarrow VT(1)=VP(1)\Leftrightarrow 2x^2-9xy+4y^2=0$
$\Rightarrow pt(1)\Leftrightarrow (x-4y)(2x-y)=0\Leftrightarrow x=4y$ hoặc $y=2x$ (loại)
Thế $x=4y$ vào $(2)$, rút gọn, bình phương, chuyển vế. Ta đc
$29y^2+9y+2=4\sqrt{y(y+3)}(4y+1)$
Tiếp tục bình phương rút gọn, nhận thấy $y=1$, dùng lược đồ Hooc-ne đưa về bậc 3 và giải = cardano ta đc thêm 1 nghiệm nữa ( nghiệm xấu ^^)
Tóm lại hệ có 1 nghiệm đẹp $(x;y)=(4;1)$ và 1 nghiệm xấu ( cần thì mình giải chi tiết cho )