Ora aí está um problema interessante de cálculo infinitesimal/ análise matemática. Não sendo fáci também não é extrodinariamente difícil.
Tratando-se de um sólido de revolução cada corte perpendicular ao eixo de rotação é um círculo. Portanto o que há a fazer é determinar o raio r(p) de cada círculo em função do ponto p, da diagonal de rotação do cubo, onde é feito o corte. Depois é só calcular a integral \(\int \pi r^2(p)||dp||\).
Comecemos por considerar, sem perda de generalidade, que o cubo tem vértices (0,0,0), (1,0,0), (0,1,0), (0,0,1), (1,1,0), (1,0,1), (0,1,1) e (1,1,1) e que a diagonal de rotação liga (0,0,0) a (1,1,1). Não é difícil verificar os seguintes factos:
(1) A superfície do sólido de revolução obtido pode ser obtida pela revolução do caminho de três arestas do cubo que passam pelos vértices (0,0,0), (1,0,0), (1,1,0) e (1,1,1).
(2) Um plano perpendicular à diagonal de rotação tem equação \(x+y+z=constante\). Assim sendo, plano perpendicular à tal diagonal que passe no ponto \((x,y,z)\) corta a diagonal no ponto \(\left(\frac{x+y+z}{3},\frac{x+y+z}{3},\frac{x+y+z}{3}\right)\).
O caminho citado no facto (1) pode ser parametrizado por \(t\mapsto \gamma(t)\) com \(t\in [0,3]\), \(\gamma(t)=(t,0,0)\) se \(0\le t\le 1\), \(\gamma(t)=(1,t-1,0)\) se \(1\le t\le 2\) e \(\gamma(t)=(1,1,t-2)\) se \(2\le t\le 3\). Para cada \(t\) a projeção de \(\gamma(t)\) na diagonal será \(p(\gamma(t))=\left(\frac{t}{3},\frac{t}{3},\frac{t}{3}\right)\) (usando o facto (2)). O o quadrado do raio do círculo de revolução para \(t\) é dado, pelo teorema de Pitágoras, por \(r^2(t)=||\gamma(t)||^2-||p(\gamma(t))||^2\).
Fazendo as contas (exercício), temos que \(r^2(t)=\frac{2t^2}{3}\) se \(0\le t\le 1\), \(r^2(t)=\frac{2t^2}{3}-2t+2\) se \(1\le t\le 2\) e \(r^2(t)=\frac{2(3-t)^2}{3}\) se \(2\le t\le 3\).
Portanto, e tendo em conta que \(p(\gamma(t))=\left(\frac{t}{3},\frac{t}{3},\frac{t}{3}\right)\Rightarrow ||dp(gamma(t))||=\frac{\sqrt{3}dt}{3}\), o volume será \(\int_0^1\pi \frac{2\sqrt{3}t^2dt}{9} +\int_1^2\pi \frac{(2t^2-6t+6)\sqrt{3}dt}{9}+\int_2^3\pi \frac{2\sqrt{3}(3-t)^2dt}{9}\) o que dá \(\frac{\pi\sqrt{3}}{3}\) (exercício).
PS: Como observação extra, refiro que o sólido de revolução obtido é o interior dum
hiperboloide ou
superfície regrada ensanduichado por dois cones com vértices em posições opostas.