2) Có $xy(x+y)=x+y+3xy$Đặt $\begin{cases}x+y=a \\ xy=b \end{cases}\Rightarrow a^2\geq 4b$
Khi đó : $ab=a+3b\Leftrightarrow 1=\frac{1}{b}+\frac{3}{a}\geq \frac{4}{a^2}+\frac{3}{a}$
$\Rightarrow \frac{1}{a}\leq \frac{1}{4}\Rightarrow a\geq 4$
$P=x^2+y^2+\frac{4x^2y^2+4xy+1-3}{2xy}=(x^2+y^2+2xy)+2-\frac{1}{xy}$
$=(x+y)^2+2-\frac{1}{xy}=a^2+2-\frac{1}{b}=a^2+2+\frac{3}{a}-1$
$=a^2+\frac{3}{a}+1$
Từ đây xét hàm $f(a)=a^2+\frac{3}{a}+1$ trong khoảng $[4 ;+ \infty)$
Ra Min là $17,75 $ khi $a=4$