Phương trình có 2 nghiệm khi và chỉ khi: $\Delta '=(m+1)^2-(m^2+3m+2)=-m-1\geq 0\Leftrightarrow m\leq -1.$
(có thể là 2 nghiệm kép nên $\Delta '\geq 0$)
Khi đó theo định lí Vi-ét ta có:
$\begin{cases}x_{1}+x_2 = 2(m+1) \\ x_1 .x_2=m^2+3m+2 \end{cases}$
a, Phương trình có 2 nghiệm thỏa mãn $x^{2}_{1}+x^{2}_{2}=12$ khi và chỉ khi:
$(x_1+x_2)^2-2x_1.x_2=12\Leftrightarrow 4(m+1)^2-2(m^2+3m+2)=12.$
$\Leftrightarrow m^2+m-6=0\Leftrightarrow m=2$ (loại) hoặc $m=-3.$
b. Theo câu a, ta có:
$A=m^2+m-6\geq -6,,\forall m\leq -1.$
Do đó GTNN của A là: $-6$ tại $m=-1.$