¿Alguna ayuda?

Vamos con una orientación, y te recomendamos seguir todo el desarrollo con lápiz y papel, y sobre todo con mucha paciencia, y recuerda las expresiones de las funciones derivadas de las funciones trigonométricas secante, cosecante y cotangente, que has estudiado en tus cursos anteriores:

(sec(x))' = sec(x)*tan(x),

(cosec(x))' = -cosec(x)*cotg(x),

(cotg(x))' = -cosec²(x).

Tienes una suma con tres términos, cuya forma general es:

f(x) = A + B + C,

cuya derivada tiene la expresión general:

f ' (x) = A' + B' + C' (*).

Luego, vamos con cada término por separado:

1°)

A = x⁴*sec³(2*x) = x⁴*(sec(2*x))³,

aquí apicas Regla del Producto, y la expresión de la derivada queda planteada:

A' = (x⁴)' * (sec(2*x))³ + x⁴ * ((sec(2*x))³)', 

ahora derivas la expresión en el primer factor en el primer término (observa que el procedimiento es directo), derivas la expresión en el segundo factor en el segundo término (observa que consiste en una composición de una potencia, cuya base es la secante de un argumento), y queda:

A' = 4*x³ * (sec(2*x))³ + x⁴ * 3*(sec(2*x))²*sec(2*x)*tan(2*x)*2,

a continuación resuelves el coeficiente en el segundotérmino, reduces factores semejantes, y queda:

A' = 4*x³ * (sec(2*x))³ + 6*x⁴ * (sec(2*x))³*tan(2*x), 

aquí extraes factor común: 2*x³ * (sec(2*x))³, y queda:

A' = 2*x³*(sec(2*x))³*(2 + 3*x*tan(2*x)),

2°)

B = 5*x*cosec⁴(x³) = 5*x*(cosec(x³))⁴,

aquí apicas Regla del Producto, y la expresión de la derivada queda planteada: 

B' = (5*x)' * (cosec(x³))⁴ + 5*x * ((cosec(x³))⁴)',

ahora derivas la expresión en el primer factor en el primer término (observa que el procedimiento es directo), derivas la expresión en el segundo factor en el segundo término (observa que consiste en una composición de una potencia, cuya base es la cosecante de un argumento), y queda: 

B' = 5 * (cosec(x³))⁴ + 5*x * 4*(cosec(x³))³*(-cosec(x³)*cotg(x³))*3*x²,

a continuación resuelves el coeficiente en el segundo término, reduces factores semejantes, y queda: 

B' = 5 * (cosec(x³))⁴ - 60*x³*(cosec(x³))⁴*cotg(x³),

aquí extraes factor común: 5*(cosec(x³))⁴, y queda:

B' = 5*(cosec(x³))⁴*(1 - 12*x³*cotg(x³)), 

3°)

C = 6*cotg²(x/π) = 6*(cotg(x/π))²,

aquí observa que el primer factor es constante, por lo que aplicas Regla de la Cadena (observa que tienes una potencia, cuya base es la cotangente de un argumento, y que el denominador en el argumento de la cotangente es constante), y queda:

C' = 6 * 2*cotg(x/π)*(-cosec²(x/π))*(1/π),

ahora resuelves el coeficiente, y queda:

C' = -(12/π)*cotg(x/π)*cosec²(x/π).

Luego, sustituyes expresiones en la expresión de la función derivada señalada (*), y queda:

f ' (x) = 

= 2*x³*(sec(2*x))³*(2 + 3*x*tan(2*x)) + 5*(cosec(x³))⁴*(1 - 12*x³*cotg(x³)) -

- (12/π)*cotg(x/π)*cosec²(x/π). 

Espero haberte ayudado.