Действительные функции, удовлетворяющие условию

Здесь есть некоторая тонкость. Дело в том, что в условии не сказано, что функция обязана быть непрерывной. Поэтому априори допустима такая вещь, что при каких-то отдельных $%x$% может выполняться равенство $%f(x)=x^2$%, а при каких-то других значениях может оказаться, что $%f(x)=-x^2$%. Таким образом, надо позаботиться о возможных "смешанных" решениях.

Рассуждать можно так. Прежде всего, уже установлено, что при всех $%x$% значение функции равно $%x^2$% или $%-x^2$%, откуда ясно, что $%f(0)=0$%. Полагая $%y=0$% в основном уравнении, мы видим, что $%f(f(x))=x^2f(x)$% для всех $%x$%. Это значит, что основное уравнение можно переписать в таком виде:

$% x^2f(x)-y^2f(y)=(x^2-f(y))(y^2+f(x)). $%

Предположим теперь, что искомая функция не равна тождественно (то есть при всех $%x$%) ни $%-x^2$%, ни $%x^2$%. Первое условие означает, что найдётся такое $%x_0$%, при котором $%f(x_0)\neq-x_0^2$%, откуда $%f(x_0)=x_0^2$%, и вдобавок $%x_0\neq0$%. Аналогично, из второго условия находим некоторое $%y_0\neq0$%, для которого $%f(y_0)=-y_0^2$%.

Подставляя теперь значения $%x=x_0$% и $%y=y_0$% в полученное выше тождество, мы получим

$% x_0^4+y_0^4=(x_0^2+y_0^2)^2, $%

что после упрощений даёт $%x_0y_0=0$%, но это невозможно. Тем самым доказано, что никаких других решений кроме $%f(x)=x^2$% и $%f(x)=-x^2$%, не имеется.