Xét: $2=a^2+b^2 \geq 2ab$; nên $1 \geq ab$ tương đương $1 \geq \sqrt{ab}$ tương đương $\sqrt{ab} \geq ab$Đồng thời, $a^3+b^3+4=a^3+1+1+b^3+1+1 \geq 3a + 3b \geq 6.\sqrt{ab} \geq 6ab$}Đồng thời, $ab+1 \leq 2ab$
Nên, $A \geq \frac{6ab}{2ab}=3$
Dấu bằng xảy ra khi và chỉ khi $a=b=1$
Xét: vì $a \leq 2 ; a\geq 0$ nên $a^2 \leq \sqrt{2}a$ tương đương $a^3 \leq \sqrt{2}a^2$; tương đương với $b$.
Nên, ta có: $A \leq \frac{\sqrt{2}.a^2+\sqrt{2}b^2+4}{ab+1} \leq \frac{2.\sqrt{2}+4}{1}=2.\sqrt{2}+4$ (Do $a;b \geq 0$)
Dấu bằng xảy ra khi và chỉ khi $a=0;b=\sqrt{2}$ hoặc $a=\sqrt{2};b=0$