a) Lấy hai điểm $M,M'$ thuộc $a$ và $N,N'$ thuộc $b$ và xét hai điểm $I,I'$ sao cho :
$\dfrac{IM}{IM'}=\dfrac{IN}{IN'}  =k$
Theo định lí Talet đảo, ba đường thẳng $a ,b$ và $II'$ luôn song song với một mặt phẳng cố định.
 Mặt phẳng này có vecto pháp tuyến là tích có hướng của hai vecto chỉ phương của hai đường thẳng $a$ và $b$.

Ta có
$f(x+2\pi)=\dfrac{\cos (x+2\pi)}{1+\sin(x+2\pi)}=\dfrac{\cos x}{1+\sin x}=f(x)$
Như vậy $f(x)$ là hàm tuần hoàn với chu kỳ $2\pi$.

Ta có
$\dfrac{1-\sin^{2}x}{1+\sin2x}=\dfrac{\cos^{2}x}{(\sin x+\cos x)^2}=\dfrac{1}{2}.\left[ {\dfrac{(\sin x+\cos x)\cos x-(\cos x-\sin x)\sin x}{(\sin x+\cos x)^2}+\dfrac{\cos^2 x -\sin^2 x}{(\sin x+\cos x)^2}} \right]$
$=\dfrac{1}{2}.\left[ {\dfrac{(\sin x+\cos x)(\sin x)'-(\sin x+\cos x)'\sin x}{(\sin x+\cos x)^2}+\dfrac{(\sin x+\cos x)'}{\sin x+\cos x}} \right]$
 Vậy 
 $\int\limits_{0}^{\pi/4}\dfrac{1-\sin^{2}x}{1+\sin2x}dx=\dfrac{1}{2}\left[ {\dfrac{\sin x}{\sin x+\cos x}+\ln \left| {\sin x+\cos x} \right|} \right]_{0}^{\pi/4}=\boxed{\dfrac{1+ \ln 2}{4}}$

Điều kiện $mx+3 \ne 0.$
PT $\Leftrightarrow x-3=3mx+9\Leftrightarrow x(3m-1)=-12           (*)$
+ Nếu $m=1/3$ thì Pt (*) vô nghiệm nên Pt ban đầu cũng vô nghiệm.
+ Nếu $m \ne 1/3$ thì Pt (*) $\Leftrightarrow x=\dfrac{-12}{3m-1}$.
Ta cần tìm thêm điều kiện
$mx+3 \ne 0\Leftrightarrow \dfrac{-12m}{3m-1}+3 \ne 0\Leftrightarrow m\ne -1.$
Vậy
$m=1/3$ hoặc  $m=-1$ thì Pt vô nghiệm.
$m\ne 1/3$ và  $m\ne -1$ thì Pt có nghiệm $\Leftrightarrow x=\dfrac{-12}{3m-1}$.

+ Tìm Max
Áp dụng BĐT Bunhia ta có
$(a+2b)^2=\left ( \dfrac{1}{\sqrt a}.\sqrt{a^3}+\dfrac{\sqrt 2}{\sqrt b}.\sqrt{2b^3} \right )^2 \le (a^3+2b^3)\left (  \dfrac{1}{a}+\dfrac{2}{b} \right )          (1)$
Mặt khác do $1 \le a,b \le 2$ nên
$\begin{cases}0<\dfrac{2}{b} \le 2\\ 0<\dfrac{1}{a} \le 1 \end{cases}\Rightarrow \dfrac{1}{a}+\dfrac{2}{b} \le 3     
  (2)$
Từ $(1)$ và $(2) $ ta có
$(a+2b)^2\le 3(a^3+2b^3)\Rightarrow P \le 3.$
Vậy $\max P=3\Leftrightarrow a=b=1.$