Điều kiện: $xy\geq 0.$, ta có:Xét $x=0,$ hệ đã cho vô nghiệm.Xét $x\neq 0,$ ta có: $(2)\Leftrightarrow \frac{1}{x}\sqrt{1+\frac{1}{x^2}}-\frac{1}{x}=y\sqrt{1+y^2}-y$ $(\alpha )$Xét hàm số: $f(t)=t\sqrt{1+t^2}-t,t\in R,$ ta có: $f'(t)=\sqrt{1+t^2}+\frac{t^2}{\sqrt{1+t^2}}-1\geq 0, \forall t\in R$ (vì $\sqrt{1+t^2}-1\geq 0$)Do đó: $f(t)$ ĐB trên R. Suy ra:$(\alpha )\Leftrightarrow f(\frac{1}{x})=f(y)\Leftrightarrow \frac{1}{x}=y\Leftrightarrow xy=1.$Thay vào PT (1) của hệ, ta được: $x^2+y^2=2\Leftrightarrow x^2+\frac{1}{x^2}=2\Leftrightarrow (x^2-1)^2=0\Leftrightarrow x=\pm 1\Rightarrow y=\pm 1.$Vậy: $(x;y)=(\pm 1;\pm 1)$
Điều kiện: $xy\geq 0.$, ta có:Xét $x=0,$ hệ đã cho vô nghiệm.Xét $x<0\Rightarrow y<0,$ ta có: $x^2y(\sqrt{1+y^2}-1)< 0,\sqrt{1+x^2}-x>0$$\Rightarrow $ hệ đã cho vô nghiệm.Xét $x> 0\Rightarrow y>0,$ ta có: $(2)\Leftrightarrow \frac{1}{x}\sqrt{1+\frac{1}{x^2}}-\frac{1}{x}=y\sqrt{1+y^2}-y$ $(\alpha )$Xét hàm số: $f(t)=t\sqrt{1+t^2}-t,t\in R,$ ta có: $f'(t)=\sqrt{1+t^2}+\frac{t^2}{\sqrt{1+t^2}}-1\geq 0, \forall t\in R$ (vì $\sqrt{1+t^2}-1\geq 0$)Do đó: $f(t)$ ĐB trên R. Suy ra:$(\alpha )\Leftrightarrow f(\frac{1}{x})=f(y)\Leftrightarrow \frac{1}{x}=y\Leftrightarrow xy=1.$Thay vào PT (1) của hệ, ta được: $x^2+y^2=2\Leftrightarrow x^2+\frac{1}{x^2}=2\Leftrightarrow (x^2-1)^2=0\Leftrightarrow x= 1\Rightarrow y= 1.$Vậy: $(x;y)=(1;1)$