a) Gọi $H$ là hình chiếu của $O$ trên $\Delta,H $ là giao điểm của đường thẳng qua $O$ và vuông góc với $\Delta. $
$\overrightarrow{OH}=(x;y)$
$\Delta: x-y+2=0 $ có vec-tơ chỉ phương $\overrightarrow{a}=(1;1) $
$\overrightarrow{OH} \bot \Delta \Rightarrow 1.x+1.y=0 \Leftrightarrow x+y=0$
Tọa độ của $H$ là nghiệm của hệ:
$\begin{cases}x+y=0 \\ x-y+2=0 \end{cases} \Rightarrow H(-1;1)$
Gọi $O'$ là đỉnh đối xứng của $O$ qua $\Delta $ thì $H$ là trung điểm của đoạn thẳng $OO'$.
$x_H=\frac{x_O+x_O'}{2} \Rightarrow -1=\frac{0+x_O'}{2} \Rightarrow x_O'=-2$
$y_H=\frac{y_O+y_O'}{2} \Rightarrow 1=\frac{0+y_O'}{2} \Rightarrow y_O'=2$.
$\Rightarrow O'(-2;2)$.
b) Nối $O'A$ cắt $\Delta $ tại $M$.
Ta có: $OM=O'M \Rightarrow OM+MA=O'M+MA=O'A$
Giả sử trên $\Delta $ có một điểm $M \neq M'$, ta có ngay:
$O'M'+M'A>O'A$
Vậy điểm $M$, giao điểm của $O'A$, chính là điểm thuộc $\Delta $ mà độ dài của đường gấp khúc $OMA$ ngắn nhất.
$A(2;0), O(-2;2)$ nên $O'A$ có phương trình: $x+2y-2=0$
Tọa độ $M$ là nghiệm của hệ:
$\begin{cases}x+2y-2=0 \\ x-y+2=0 \end{cases} \Rightarrow M(-\frac{2}{3}; \frac{4}{3} )$.