Anh nghĩ các bước biến đổi của em không sai nhưng có lẽ nó lại làm phức tạp bài toán hơn :)
Thực chất em đang cố gắng đưa về dạng lượng giác cơ bản, đó là $\sin u=\sin v$ hoặc $\sin u =\cos v$ chứ không nên tạo ra các tình huống như là $\sin u = K\sin v$ với $K \ne 1$.
Thực tế nếu nhận được đề bài là $\sin (3x + \frac{\pi}{4}) = \sqrt 2 \sin x$ thì anh cũng chỉ có cách khai triển
ra và đưa về dạng chia cho $\cos^3 x$ như em nói. Anh nghĩ đấy là tự nhiên và cơ bản hợp tình hợp lý nhất có thể nghĩ đến.
Chúc em ôn thi tốt!

Đường thẳng đi qua $A(3,20)$ hệ số góc $m$ có dạng $y=m(x-3)+20$.
Để $(d)$ cắt $(C)$ tại ba điểm phân biệt thì PT sau phải có ba nghiệm phân biệt
      $x^3-3x+2=m(x-3)+20$
$\Leftrightarrow x^3-3x-18-m(x-3) = 0$
$\Leftrightarrow (x-3)(\underbrace{x^2+3x+6-m}_{g(x)})$=0
Để PT này có ba nghiệm phân biệt thì PT $g(x)=0$ phải có hai nghiệm phân biệt khác $3$
$\Leftrightarrow \begin{cases}\Delta_g=3^2-4(6-m) >0 \\ g(3) =24-m \ne 0 \end{cases}\Leftrightarrow \begin{cases}m>-\frac{15}{4} \\ m \ne 24 \end{cases}$.

$x^{2}-4xy+x+2y=0\Rightarrow x^2+x=y(4x-2)\Rightarrow y=\frac{x^2+x}{4x-2}$, dễ thấy $x \ne \frac{1}{2}$.
Thay vào PT thứ hai ta được
            $x^{4}-8x^{2}\frac{x^2+x}{4x-2}+3x^{2}+4\left ( \frac{x^2+x}{4x-2} \right )^{2}=0$
$\iff (x-2)(x-1)x^2(2x^2+1)=0$
Vậy
$(x,y) \in \{ (0,0); (1,1); (2,1)\} $.