$\begin{cases}(x^{2}-2xy+y^{2})+(2x^{2}+4xy+2y^{2})+\frac{1}{(x-y)^{2}}=20\\(x+y)+(x-y)+\frac{1}{x-y}=5\end{cases}$
<=>$\begin{cases}(x-y)^{2}+\frac{1}{(x-y)^{2}}+2(x+y)^{2}=20\\(x+y)+(x-y)+\frac{1}{x-y}=5\end{cases}$
đặt $(x-y)+\frac{1}{x-y}=a=>a^{2}=(x-y)^{2}+\frac{1}{(x-y)^{2}}+2$ và $ x+y=b$
khi đó hpt thành
$\begin{cases}a^{2}-2+2b^{2}=20\\a+b=5\end{cases}$
giải tiếp tìm đc a,b rồi tìm đc x,y