Olá, boa noite.
Primeiramente vamos desenvolver uma solução genérica para esse tipo de problema. Veja a figura a seguir:
Nela esquematizamos uma seção transversal do cone com a esfera inscrita.
Observe que o triângulo retângulo com um cateto \(R\) e hipotenusa \(g\) é semelhante ao triângulo retângulo com um cateto \(r\) e hipotenusa \(h-r\), pelo caso de semelhança \(AAA\). A sacada aqui é que a maior esfera inscrita tangencia a geratriz do cone, formando no ponto de tangencia um ângulo reto.
Os dados da figura são:
\(R\) é o raio da base do cone.
\(g\) é a geratriz do cone (hipotenusa do triângulo maior)
\(h\) é a altura do cone e
\(r\) é o raio da maior esfera inscrita no cone.
Então temos, por semelhança dos triângulos, que \(\frac{r}{h-r} = \frac{R}{g}\) e portanto:
\(r = \frac{R \cdot h}{R+g}\).
Com essa fórmula você calcula o raio da maior esfera inscrita em qualquer cone reto que lhe for pedido.
Observe que você tem os dados \(R\) e \(h\), basta calculcar \(g\) por Pitágoras e aplicar na fórmula acima que terá a resposta do problema.