в первой задаче вам ише надо x^2-1 разложить на два множитела то есть x^2-1=(x-1)(x+1) и функция попробуйте соответсвенно делить не на два а на три
в пункт б вам необходимо делать подстановка именно x^1/6=y dy=6dx/(5x^5/6) (5/6)y^5dy=dx