ряд-фурье - Ряд Фурье. Разложить sh(x)

Там нулевыми будут только коэффициенты перед косинусами, поскольку функция нечётна. А коэффициенты при синусах нулю не равны. Скажем, интеграл от произведения синуса и гиперболического синуса равен гиперболическому синусу числа $%\pi$%.

у меня получилось, что a(0) = 0; a(n) = 0; b(n) = 0; я считал через онлайн калькулятор. Первые два значения проверил на бумаге, вроде верно.

Коэффициенты $%a_n$% считать не надо: они заведомо нулевые из-за нечётности функции. Что касается $%b_n$%, то они ненулевые. Скорее всего, Вы там какие-то не те данные ввели. Можете посмотреть на Wolfram. Вот я ввёл в окошко такой текст:

int(sinh(x)*sin(x),x=-Pi..Pi)

и получил в ответе значение $%\sinh(\pi)$%.

но sinh(π) не будет ответом, да? надо считать так int(sinh(x)sin(nx),x=-Pi..Pi)?

Конечно, не будет ответом. Это всего лишь один из интегралов, нужный для вычисления $%b_1$%. Там надо ещё поделить на число, в соответствии с формулой. Я просто показал, что он не равен нулю. А вообще нужно ещё вычислить интегралы вида int(sinh(x)sin(nx),x=-Pi..Pi) для всех $%n$%, и потом уже выписать ряд Фурье с нужными коэффициентами. Интегрирования по частям для этого хватает.