Задача М1404‍‍

Задача сводится к нахождению максимума выражения $u=x^3y+y^3z+z^3x$‍.‍

Пусть $c=xy+yz+zx$‍.‍

Тогда $$ \left\{\begin{array}{l} x+y+z=0,\\ xy+yz+xz=c,\\ xyz=2. \end{array}\right. $$ Следовательно, числа $x$‍,‍ $y$‍,‍ $z$‍‍ являются корнями уравнения $t^3+ct-2=0$‍.‍ Поэтому $$\begin{align*} x^3y&=-cxy+2y\\ y^3z&=-cyz+2z,\\ z^3x&=-czx+2x. \end{align*}$$ Сложив эти равенства, получаем: $u=-c^2$‍.‍ Так как уравнение $t^3+ct-2=0$‍‍ имеет три корня, то $c\lt0$‍.‍ (В противном случае функция $S(t)=t^3+ct$‍‍ возрастает и уравнение имеет единственный корень.)

Задача, таким образом, сводится к нахождению максимума выражения $c=xy+yz+zx$‍.‍ Имеем: $$ c=x(y+z)+\dfrac2x=-x^2+\dfrac2x. $$

Без ограничения общности можно считать, что $x\lt0$‍.‍ Функция $f(x)=-x^2+\dfrac2x$‍‍ достигает своего максимума (при $x\lt0$‍),‍ равного $-3$‍,‍ при $x=-1$‍‍ (в этом можно убедиться с помощью производной).

Таким образом, $$ \dfrac{x^2}y+\dfrac{y^2}z+\dfrac{z^2}x\le-\dfrac92, $$ причём равенство достигается здесь тогда и только тогда, когда два из чисел $x$‍,‍ $y$‍,‍ $z$‍‍ равны $-1$‍,‍ а третье 2.

Замечание. Фактически исходная задача в процессе решения была сведена к следующей: найти наибольшее число $c$‍,‍ при котором уравнение $t^3+ct-2=0$‍‍ имеет три корня. Аналогично можно доказать и более общее утверждение: для уравнения $$ t^3+ct+q=0 $$ такое число $c$‍‍ определяется из неравенства $$ \left(\dfrac q2\right)^2+\left(\dfrac c3\right)^3\le0. $$