Olá, boa tarde,
Anexei uma figura para ajudar no desenrolar do problema.

- circ1.png (10.76 KiB) Visualizado 1319 vezes
Se a circunferência passa por A e B
Então a mediatriz de AB passa pelo centro O.
Logo o ponto de tangência é T e o raio é \(R = a-h\).
Usando Pitágoras no triângulo AMO temos:
\((a-h)^2 = (\frac{a}{2})^2 + h^2\) o que nos dá \(h = \frac{3a}{8}\)
Portanto, o raio pedido é \(R = a-h\) vale \(\frac{5a}{8}\)