оптимизация - Исследовать функцию по методам оптимизации

Определить направление вогнутости можно, исследуя знакоопределенность второго дифференциала:
Если в каждой точке $%x$% области $%D$% второй дифференциал $%d^2{f(x)}=\sum\limits_{i,\,j=1}^{3}\dfrac{\partial^2{f}}{\partial{x_i}\partial{x_j}}dx_i dx_j$% является положительно-определенной квадратичной формой от дифференциалов независимых переменных, то функция $%f$% строго выпукла в $%D.$% Если же второй дифференциал является отрицательно-определенной квадратичной формой, то $%f$% строго вогнута в $%D.$%
Для исследования знакоопределенности $%d^2{f}$% или, что то же самое, знакоопределенности матрицы этой квадратичной формы, называемой матрицей Гессе, можно воспользоваться критерием Сильвестра.