анализ - Норма оператора в H

Пусть x -- вектор, для которого ||x||=1, то есть (x,x)=1. Тогда ||Ax||^2=(Ax,Ax)=(x,BAx), где B=A* (это чтобы в тексте "звёздочка" была всего одна :))

Применим неравенство Коши - Буняковского, и воспользуется определением нормы. Получится ||Ax||^2<=||x|| ||BAx||=||BAx||<=||BA|| ||x||=||BA||. Тогда sup ||Ax|| на единичной сфере не больше ||BA||^{1/2}, то есть ||A||<=||BA||^{1/2}, и ||A||^2<=||BA||.

Докажем обратное неравенство. Пусть ||x||=1, как и выше. Тогда ||BAx||^2=(BAx,BAx)=(Ax,ABAx)<=||Ax|| ||ABAx|| <= ||A|| ||A|| ||BAx||. Следовательно, ||BAx|| <= ||A||^2 (если ||BAx|| положительно, то сокращаем; если ||BAx||=0, то вывод очевиден), и осталось взять sup по единичной сфере.