Đặt $x+3y+1=a , \sqrt{2x+3y}=b$ Ta có hệ
$\begin{cases}a+\frac{1}{b}=2 \\ \frac{1}{a}+b=2 \end{cases}$
Trừ hai vế cho nhau ta được
$a-b+\frac{1}{b}-\frac{1}{a}=0\Leftrightarrow (a-b)+\frac{a-b}{ab}=0\Leftrightarrow (a-b)(1+\frac{1}{ab})=0$
TH1. $a=b\Rightarrow a+\frac{1}{a}=2\Rightarrow (a-1)^2=0\Rightarrow a=1$
Giải hệ
$\begin{cases}x+3y+1=1 \\ 2x+3y=1 \end{cases}\Leftrightarrow \begin{cases}x=1 \\ y=-\frac{1}{3} \end{cases}$
TH2. $1+\frac{1}{ab}=0\Rightarrow ab=-1\Rightarrow \frac{1}{b}=-a\Rightarrow a+\frac{1}{b}=0$
Không thỏa mãn hệ đã cho
Vậy $(x,y)=(1,-\frac{1}{3})$