Olá, boa noite.

Fiz uma figura auxiliar pra gente acompanhar:



Nessa figura temos um octógono regular inscrito no quadrado \(HIJK\), onde:
\(a\) é o lado do quadrado, veja que \(a = b + 2 \cdot x\).
\(b\) é o lado do octógono regular.
\(c\) é o apótema do octógono, veja que \(c = \frac{a}{2}\)
Também temos, por pitágoras nos triângulos dos cantos, que:
\(2x^2 = b^2\) e portanto \(x = b\frac{\sqrt{2}}{2}\)
E dessa forma \(a = b + b\sqrt{2}\).

Como a área do octógono regular é definida como \(A_8 = \frac{n \cdot b \cdot c}{2}\) , então

\(\frac{8 \cdot b \cdot a}{4} = 16 \Leftrightarrow ab = 8\).

Então: \((b + b\sqrt{2}) \cdot b = 8 \Leftrightarrow b^2 = \frac{8}{1+\sqrt{2}}\).

A área do quadrado é \(A_4 = a^2 = (b + 2 \cdot x)^2 = (b + 2 \cdot b\frac{\sqrt{2}}{2})^2 = b^2 \cdot (1+\sqrt{2})^2\)

\(\Leftrightarrow A_4 = \frac{8}{1+\sqrt{2}} * 1+\sqrt{2})^2 \Leftrightarrow A_4 = 8 \cdot ( 1 + \sqrt{2}) cm^2\).

Observe que a resposta acima não consta nas alternativas fornecidas, então ... você poderia conferir a solução acima?