Trước hết ta chứng minh công thức sau
$\cot x - \tan x= 2\cot 2x$
Thật vậy,
$\cot x - \tan x= \frac{\cos x}{\sin x}- \frac{\sin x}{\cos x}=\frac{\cos^2 x -
\sin^2 x}{\sin x \cos x}=2\frac{\cos 2x}{\sin 2x}=2\cot 2x$
Từ đây suy ra $2\cot 2x+\tan x= \cot x$ và PT đã cho tương đương với
$\cot x+\sqrt{\cot x+3}=3 $
Dễ thấy $\cot x =1$ thỏa mãn PT trên.
Nếu $\cot x > 1 \implies \cot x+\sqrt{\cot x+3}>1+\sqrt{1+3}=3$
Nếu $\cot x <1 \implies \cot x+\sqrt{\cot x+3}<1+\sqrt{1+3}=3$
Như vậy chỉ có thể $\cot x =1\Leftrightarrow x= \frac{\pi}{4} +
k\pi (k \in \mathbb{Z}).$