Hình vẽ bài toán
Gọi $\rm M$ là trung điểm của $\rm BC$, do $\rm C',M$ cùng cách đều $\rm A,B,C$ nên $\rm C'M\perp (ABC)$
Kẻ đường trung bình $\rm MN$ trong $\rm \triangle ABC,MH \perp C'N$. Dễ thấy $\rm MH\perp(AC'C)$
Ta có $\rm d\left[B,(AC'C)\right]=2 d\left[M,(AC'C)\right]=2MH$, do đó $\mathrm {MH}=\frac{3a}{\sqrt{15}}$
Mặt khác $\rm \frac 1{MH^2}= \frac 1{C'M^2}+\frac 1{MN^2}\Rightarrow \rm C'M=\sqrt 3a$
Từ đó ta có $\rm V_{A'ABC'}=V_{ABC.A'B'C'}-V_{B.A'B'C'}-V_{C'.ABC}$
$=\mathrm{ V_{ABC.A'B'C'}\left(1-\frac 13-\frac 13\right)=V_{ABC.A'B'C'}}.\frac 13=\frac{a^3}2$
Mặt khác sau khi có $\rm C'M$ thì ta tính được $\mathrm{C'C}=2a\Rightarrow \mathrm{A'A}=2a$ và $\mathrm{A'B}=2a$ bằng việc kẻ $\rm BM'\perp B'C'$, do đó $\rm \triangle A'AB$ cân tại $\rm A'$
Nên gọi $\rm Q$ là trung điểm của $\rm A,B$ thì ta có $\rm A'Q\perp BA,MQ\perp BA$
$\Rightarrow \rm \varphi=\left[(ABB'A'),(ABC)\right]=(A'Q,QM)$
Phần tính dài nhưng ko khó nên ko trình bày, dùng định lí $\cos$ tìm được $\cos \varphi=\frac{-\sqrt{13}}{13}$