Điều kiện của hệ $x\geq y$ và $x\geq -y$. Khi đó$PT(1)\Rightarrow x+y+x-y-2\sqrt{x^2-y^2}=4\Rightarrow \sqrt{x^2-y^2}=x-2$ (1).
Đồng thời $\sqrt{x+y}>\sqrt{x-y}$, suy ra $y>0$ (2).
Thay (1) vào $PT(2)$ thì có
$PT(2)\Rightarrow \sqrt{x^2+y^2+1}-x+2=3\Rightarrow \sqrt{x^2+y^2+1}=x+1\Rightarrow y^2=2x$ (3).
Thay (3) và (1) thì được
(1) $\Rightarrow \sqrt{x^2-2x}=x-2\Rightarrow x^2-2x=x^2-4x+4\Rightarrow x=2$ (4).
Thay (4) vào (3) và sử dụng (2) thì được $y=2$. Do đó $(x;y)=(2;2)$.
Kiểm tra dễ dàng $(x;y)=(2;2)$ thỏa mãn hệ đã cho.