Hệ đã cho tương đương với:
$\left\{\begin{array}{l}3x-a\sqrt{y^2+1}=1\\x+y+(\sqrt{y^2+1}-y)=a^2\end{array}\right.$
$\Leftrightarrow \left\{\begin{array}{l}3x-a\sqrt{y^2+1}=1\\x+\sqrt{y^2+1}=a^2\end{array}\right.$
Nhận xét: nếu $(x_0;y_0)$ là nghiệm thì $(x_0;-y_0)$ cũng là nghiệm của hệ.
Vậy để hệ có nghiệm duy nhất thì ta có: $y_0=-y_0 \Leftrightarrow y_0=0$
Khi đó ta có:
$\left\{\begin{array}{l}3x_0-a=1\\x_0+1=a^2\end{array}\right.$
$\Leftrightarrow \left\{\begin{array}{l}x_0=a^2-1\\3(a^2-1)-a=1\end{array}\right.$
$\Leftrightarrow \left[\begin{array}{l}\left\{\begin{array}{l}a=-1\\x_0=0\end{array}\right.\\\left\{\begin{array}{l}a=\dfrac{4}{3}\\x_0=\dfrac{7}{9}\end{array}\right.\end{array}\right.$
Thử lại, $a=-1$ và $a=\dfrac{4}{3}$ đều thỏa mãn.