với x,y $\in R$
pt (2) $\Leftrightarrow 5x^{2}-xy+4x+5xy-y^{2}+4y-20x+4y-16=0$
$\Leftrightarrow x(5x-y+4)+y(5x-y+4)-4(5x-y+4)=0$
$\Leftrightarrow (x+y-4)(5x-y+4)=0$
$\Leftrightarrow \left[ {\begin{matrix} y=4-x (3)\\ y=5x+4 (4) \end{matrix}} \right.$
thay (3) vào (1) ta được $2x^{2}+11x-4=0$
$\Leftrightarrow \left[ {\begin{matrix} x=\frac{-11+3\sqrt{17}}{4}\Rightarrow y=\frac{27-3\sqrt{17}}{4}\\x=\frac{-11-3\sqrt{17}}{4}\Rightarrow y=\frac{27+3\sqrt{17}}{4}\end{matrix}} \right.$
thay (4) vào (1) ta được $10x^{2}+13x+4=0$
$\Leftrightarrow \left[ {\begin{matrix} x=-\frac{1}{2}\Rightarrow y=\frac{3}{2}\\ x=-\frac{4}{5}\Rightarrow y=0\end{matrix}} \right.$