Vì $a, b, c$ không dương nên ta không thể áp dụng BĐT Cô-si ở đây,Áp dụng BĐT Bunhiacopski ta được$(a^2+8b^2+2c^2)(64+8+32) \ge (8a+8b+8c)^2=8.13^2$$\Rightarrow a^2+8b^2+2c^2 \ge 104$Đẳng thức xảy ra $\Leftrightarrow \begin{cases}\frac{a}{8}=\frac{b}{1}=\frac{c}{4} \\ a+b+c=13 \end{cases} \Leftrightarrow\begin{cases}a=8 \\ b=1 \\c=4\end{cases}$

Vì $a, b, c$ không dương nên áp dụng BĐT Cô-si ở đây nên thận trọng.Áp dụng BĐT Bunhiacopski ta được$(a^2+8b^2+2c^2)(64+8+32) \ge (8a+8b+8c)^2=8.13^2$$\Rightarrow a^2+8b^2+2c^2 \ge 104$Đẳng thức xảy ra $\Leftrightarrow \begin{cases}\frac{a}{8}=\frac{b}{1}=\frac{c}{4} \\ a+b+c=13 \end{cases} \Leftrightarrow\begin{cases}a=8 \\ b=1 \\c=4\end{cases}$

Từ Pt thứ nhất ta có $y^2=17-2x^3$Từ PT thứ hai ta có$y(y^2+1)=34-4x^2-8x\Leftrightarrow y(18-2x^3)=34-4x^2-8x\Leftrightarrow y=\frac{34-4x^2-8x}{18-2x^3}$Thay trở lại Pt thứ nhất ta có$2x^3+\left (\frac{34-4x^2-8x}{18-2x^3}\right )^2-17=0$$\Leftrightarrow (x-2)(2x^8+4x^7+8x^6-37x^5-74x^4-144x^3+196x^2+340x+544)=0$Kiểm tra rằng PT $2x^8+4x^7+8x^6-37x^5-74x^4-144x^3+196x^2+340x+544=0$ vô nghiệm nên hệ đã cho có nghiệm $x=2, y=\pm 3$Nhưng hai giá trị này không thỏa mãn hệ nên hệ đã cho vô nghiệm.

Từ Pt thứ nhất ta có $y^2=17-2x^3$Từ PT thứ hai ta có$y(y^2+1)=34-4x^2-8x\Leftrightarrow y(18-2x^3)=34-4x^2-8x\Leftrightarrow y=\frac{34-4x^2-8x}{18-2x^3}$Thay trở lại Pt thứ nhất ta có$2x^3+\left (\frac{34-4x^2-8x}{18-2x^3}\right )^2-17=0$$\Leftrightarrow (x-2)(2x^8+4x^7+8x^6-37x^5-74x^4-144x^3+196x^2+340x+544)=0$Kiểm tra rằng PT $2x^8+4x^7+8x^6-37x^5-74x^4-144x^3+196x^2+340x+544=0$ vô nghiệm nên hệ đã cho có nghiệm $x=2, y=\pm 1$Kiểm tra thì thấy hệ có nghiệm duy nhất $(x,y)=(2,1).$