Olá wiiutex
Não há nada aqui para calcular, apenas para expandir aquele produto.
Considera-se A, B, I (Identidade) matrizes de ordem n.
Sendo, \(B=A^{-1}\), vem, apenas, substituindo B:
\((2A+3A^{-1})(A-A^{-1})=2A^{2}-2AA^{-1}+3A^{-1}A-3(A^{-1})^{2}=2A^{2}+I-3(A^{-1})^{2}\)
...
Bom estudo