$x+y+xy=3$$\Leftrightarrow x+y+xy+1=4$
$\Leftrightarrow (y+1)(x+1)=4$
ta có $P=\frac{x^2}{y+1}+\frac{y^2}{x+1}-\frac{(x+y)^3}{4} $
$ =\frac{x^2(x+1)+y^2(y+1)}{(x+1)(y+1)}-\frac{(x+y)^3}{4}$
$ =\frac{x^3+x^2+y^3+y^2-(x^3+y^3+3xy(x+y))}{4}$
thử nghĩ tiếp theo hướng này xem mấy bạn