Como você determina a derivada de xcosx ?
Encontre a primeira derivada e depois diferencie novamente.
dy/dx= 1(cosx) + x(-sinx)
dy/dx = cosx - xsinx
Diferencie novamente.
(d^2y)/(dx^2) = -sinx - (1(sinx) + x(cosx))
(d^2y)/(dx^2) = -sinx - sinx - xcosx
(d^2y)/(dx^2) = -2sinx - xcosx
Espero que isso ajude!