bình phương hai vế
$\left| {a-2b} \right|^{2}$=($3\sqrt{a^{2}+b^{2}}$)$^{2}$<=>$ 8a^{2}+4ab+5b^{2}=0$
xét $a=0$ có là nghiệm không : $0+0+5b^{2}=0$ <=> $b=0$
trường hợp $a\neq0$ đặt $a=kb$
pt trở thành $8k^{2}b^{2}+4kb^{2}+5b^{2}=0$
<=>$b^{2}.(8k^{2}+4k+5)=0$
<=> $b=0$ hoặc $8k^{2}+4k+5=0$(vô nghiệm)
kết luận: pt có nghiệm $a=b=0$
còn cái $a=\frac{-4}{3}b$ thì mình không biết tai sao ra như vậy.