Minha cara(o)
Essa resolve-se primitivando por partes duas vezes
\(Px^3e^{3x^2}=Px^2xe{3x^2}\)
Lembremo-nos da primitivação por partes
\(Pu'v=uv-Pv'u\)
Neste caso
\(u'=xe^{3x^2} \ \ v=x^2\)
\(u=\frac{1}{6}e^{3x^2} \ \ v'=2x\)
Então continuando
\(Px^2xe{3x^2}=\frac{1}{6}e^{3x^2}x^2-P2x\frac{1}{6}e^{3x^2}=\frac{x^2}{6}e^{3x^2}-\frac{1}{3}\frac{1}{6}P6xe^{3x^2}=\)
\(=\frac{x^2}{6}e^{3x^2}-\frac{1}{18}e^{3x^2}+C\)
O resultado está correcto e pode ser confirmado aqui
http://www.wolframalpha.com/input/?i=integrate+x%5E3e%5E%283x%5E2%29Volte sempre