Olá
Esboçando a figura vemos que a esfera está acima do cone ,então: \(z=\sqrt{1-x^2-y^2}\) é o limite superior em dz e o cone é o limite inferior em dz :
\(\int \int_{R} \; \sqrt{1-x^2-y^2}-\sqrt{x^2+y^2} dxdy\)
A região \(R\) é projeção no plano \(xy\), então de:
\(\left \{ \\\\ x^2+y^2+z^2=1 \\\\ z=\sqrt{x^2+y^2}\) , obtemos \(z=\frac{1}{\sqrt 2}\)
substituindo na equação do cone: \(x^2+y^2=\frac{1}{2}\)
passando para coordenadas polares:
\(x=r*cos\theta\)
\(y=r*sen\theta\)
calculando o jacobiano obtemos: \(J=r\)
então ficamos com:
\(\int_{0}^{2\pi} \; \int_{0}^{\frac{1}{\sqrt 2}} \; (\sqrt{1-r^{2}}-r)*r \; dr \; d\theta\)
calcule a integral para obter a resposta.
att. se houver dúvidas fale.