HPT $\Leftrightarrow \begin{cases}y(x^2-2xy-3y^2)+4(x+y)=0 \\ xy(x^2+y^2)-1+(x^2+y^2)-xy=0 \end{cases}$ $\Leftrightarrow \begin{cases}y(x+y)(x-3y)+4(x+y)=0 \\ (xy+1)(x^2+y^2)-(xy+1)=0 \end{cases}$ $\Leftrightarrow \begin{cases}(x+y)(xy-3y^2+4)=0 \\ (xy+1)(x^2+y^2-1)=0 \end{cases}$ $\Leftrightarrow \left[ {\begin{matrix} \begin{cases}x+y=0 \\ xy=-1 \end{cases}\\ \begin{cases}x+y=0 \\ x^2+y^2=1\end{cases}\\ \begin{cases}xy-3y^2+4=0\\ x^2+y^2=1 \end{cases}\\ \begin{cases}xy-3y^2+4=0 \\ xy=-1 \end{cases} \end{matrix}} \right.$ $\Leftrightarrow \left[ {\begin{matrix} \begin{cases}x=-y \\ y^2=1
\end{cases} \\ \begin{cases}x=-y \\ 2y^2=1
\end{cases} \\\begin{cases}3y^2=3 \\ xy=-1 \end{cases} \end{matrix}}
\right.$Và hệ cuối $\begin{cases}xy-3y^2+4=0 \\ x^2+y^2=1 \end{cases}\Leftrightarrow \begin{cases}xy-3y^2=-4 \\ 4x^2+4y^2=4 \end{cases}\Rightarrow 4x^2+xy+y^2=0,$ vô lý nên hệ này vô nghiệm. Vậy $(x,y) =(1,-1),(-1,1),\left ( \sqrt{\dfrac{1}{2}}, -\sqrt{\dfrac{1}{2} } \right ), \left ( -\sqrt{\dfrac{1}{2}},\sqrt{\dfrac{1}{2}} \right )$.
HPT $\Leftrightarrow \begin{cases}y(x^2-2xy-3y^2)+4(x+y)=0 \\ xy(x^2+y^2)-1-(x^2+y^2)+xy=0 \end{cases}$ $\Leftrightarrow \begin{cases}y(x+y)(x-3y)+4(x+y)=0 \\ (xy-1)(x^2+y^2)+xy-1=0 \end{cases}$ $\Leftrightarrow \begin{cases}(x+y)(xy-3y^2+4)=0 \\ (xy-1)(x^2+y^2+1)=0 \end{cases}$ $\Leftrightarrow \begin{cases}(x+y)(xy-3y^2+4)=0 \\ xy-1=0, \text{ do } x^2+y^2+1 >0 \end{cases}$ $\Leftrightarrow \left[ {\begin{matrix} \begin{cases}x+y=0 \\ xy=1 \end{cases}\\ \begin{cases}xy-3y^2+4=0 \\ xy=1 \end{cases} \end{matrix}} \right.$ $\Leftrightarrow \left[ {\begin{matrix} \begin{cases}x=-y \\ -y^2=1
\end{cases}, \text{ vô nghiệm. } \\ \begin{cases}xy-3y^2+4=0 \\ xy=1 \end{cases} \end{matrix}}
\right.$ $\Leftrightarrow \begin{cases}3y^2=5 \\ xy=1 \end{cases}$ Vậy $(x,y) =\left ( \sqrt{\dfrac{3}{5}}, \sqrt{\dfrac{5}{3} } \right ), \left ( -\sqrt{\dfrac{3}{5}},-\sqrt{\dfrac{5}{3}} \right )$.
HPT $\Leftrightarrow \begin{cases}y(x^2-2xy-3y^2)+4(x+y)=0 \\ xy(x^2+y^2)-1
+(x^2+y^2)
-xy=0 \end{cases}$ $\Leftrightarrow \begin{cases}y(x+y)(x-3y)+4(x+y)=0 \\ (xy
+1)(x^2+y^2)
-(xy
+1
)=0 \end{cases}$ $\Leftrightarrow \begin{cases}(x+y)(xy-3y^2+4)=0 \\ (xy
+1)(x^2+y^2
-1)=0 \end{cases}$ $\Leftrightarrow
\left[ {\begin{matrix} \begin{cases}x+y=0 \\ xy
=-1 \e
nd{
cases}\\ \begin{cases}x+y=0 \\ x^2+y^2
=1\end{cases}\\ \begin{cases}xy
-3y^2+4=0\\ x
^2+y
^2=1 \end{cases}\\ \begin{cases}xy-3y^2+4=0 \\ xy=
-1 \end{cases} \end{matrix}} \right.$ $\Leftrightarrow \left[ {\begin{matrix} \begin{cases}x=-y \\ y^2=1
\end{cases} \
\ \begi
n{cases}
x=-y \\
2y^2=1
\end{cases} \\\begin{cases}3y^2=
3 \\ xy=
-1 \end{cases} \end{matrix}}
\right.$
Và hệ cuối $\
begin{cases}xy-3y^2+4=0 \\ x^2+y^2=1 \end{cases}\Leftrightarrow \begin{cases}
xy-3y^2=
-4 \\
4x
^2+4y
^2=
4 \end{cases}
\Rightarrow 4x^2+xy+y^2=0,$
vô lý nên hệ này vô nghiệm. Vậy $(x,y) =
(1,-1),(-1,1),\left ( \sqrt{\dfrac{
1}{
2}},
-\sqrt{\dfrac{
1}{
2} } \right ), \left ( -\sqrt{\dfrac{
1}{
2}},\sqrt{\dfrac{
1}{
2}} \right )$.