Giả sử các biểu thức có nghĩa (dễ thấy $x>0$)
$pt(1)\Leftrightarrow x\sqrt{(x^2+1)-(4x-y)}=(x^2+1)-\sqrt{4x-y}$$\Leftrightarrow x^2[(x^2+1)-(4x-y)]=(x^2+1)^2-2(x^2+1)\sqrt{4x-y}+(4x-y)$ (Đk $VP \ge0$)
$\Leftrightarrow x^2(x^2+1)=(x^2+1)^2-2(x^2+1)\sqrt{4x-y}+(x^2+1)\sqrt{4x-y}$
$\Leftrightarrow (4x-y)-2\sqrt{4x-y}+1=0$
$\Leftrightarrow 4x-y=1\Leftrightarrow y=4x-1$
Thế vào $pt(2)$, ta dc
$5x^3-25x^2+19x+\sqrt{5x-4}=0$
$\Leftrightarrow 5x^3-25x^2+20x=x-\sqrt{5x-4}$
$\Leftrightarrow 5x(x^2-5x+4)=\frac{x^2-5x+4}{x+\sqrt{5x+4}}$
$\Leftrightarrow (x^2-5x+4)\left(5x-\frac{1}{x+\sqrt{5x+4}}\right)=0$
Dễ chứng minh $5x-\frac{1}{x+\sqrt{5x+4}}>0$
$\Rightarrow \left[ \begin{array}{l} x=1\\ x=4 \end{array} \right.$
Từ đó tìm đc 2 nghiệm thõa yêu cầu bài toàn $(x;y)=\{(1;3);(4;15) \}$