Первый пункт этой задачи можно свести ко второму, поэтому решим сначала задачу б).
Домножив обе части неравенства на $a+b+c$, перепишем его в виде
$$
(a^3b+b^3c+c^3a)(a+b+c)\ge abc(a+b+c)^2.
$$
Первый сомножитель в левой части — это квадрат длины вектора $\overrightarrow{v}(x; y; z)$ с координатами $x=a\sqrt{ab}$, $y=b\sqrt{bc}$, $z=c\sqrt{ca}$, второй — квадрат длины вектора $\overrightarrow{u}(x_1; y_1; z_1)$ с координатами $x_1=\sqrt{c}$, $y_1=\sqrt{a}$, $z_1=\sqrt{b}$.В правой части, как легко видеть, стоит квадрат их скалярного произведения $(xx_1+yy_1+zz_1)^2$.Но для любых двух векторов $(\overrightarrow{u}\cdot\overrightarrow{v})^2\leq|\overrightarrow{u}|^2|\overrightarrow{v}|^2$ (это так называемое «неравенство Коши—Буняковского»).
Ясно, что равенство $(\overrightarrow{u}\cdot\overrightarrow{v})^2=|\overrightarrow{u}|^2|\overrightarrow{v}|^2$ возможно лишь тогда, когда векторы $\overrightarrow{u}$ и $\overrightarrow{v}$ коллинеарны, т. е.
$\dfrac{a^3b}{c}=\dfrac{b^3c}{a}=\dfrac{c^3a}{b}$ или $a=b=c.$
Имеется и короткое прямое доказательство с помощью выделения полных квадратов:
$$
\begin{gather*}
a^3b+b^3c+c^3a-a^2bc-b^2ca-c^2ab=\\
=(a^3b-2a^2bc+c^2ab)+(b^3c-2b^2ca+a^2bc)+(c^3a-2c^2ab+b^2ca)=\\
=ab(a-c)^2+bc(b-a)^2+ca(c-b)^2\ge 0.
\end{gather*}
$$
а) Приведём два решения.
Первое решение использует замену переменных $x+y=c$, $y+z=a$, $z+x=b$ ($x$, $y$, $z$ — это отрезки, на которые стороны треугольника разбиваются точками касания вписанной окружности). Можно проверить, что после этой замены неравенство пункта а) приводится к виду
$$
xy^3+yz^3+zx^3\ge x^2yz+y^2zx+z^2xy,\tag{1}
$$
а это неравенство, как мы доказали выше, справедливо при любых неотрицательных $x$, $y$, $z$.
При этом, чтобы не запутаться в выкладках и не выписывать всех членов разложения, можно использовать «симметричность» левой части неравенства пункта а) относительно циклической замены $a\rightarrow b$, $b\rightarrow c$, $c\rightarrow a$. Ей отвечает аналогичная замена $R$ переменных $x$, $y$, $z$: $x\rightarrow y$, $y\rightarrow z$, $z\rightarrow x$, поэтому одночлены, получившиеся после раскрытия скобок в выражении
$$
a^2b(a-b)=(y+z)^2(z+x)(y-x),
$$
полезно сгруппировать по «типам», как это сделано на полях: к одному типу относятся одночлены, получающиеся друг из друга при циклической замене переменных $R$ (на полях они выписаны в одну строку; подчеркнём, что попарные перестановки переменных не разрешаются — они меняют многочлен!). Ясно, что два других слагаемых $b^2c(b-c)$ и $c^2a(c-a)$ дадут другие одночлены тех же типов (их можно получить просто заменой $R$). Благодаря этому можно сразу указать, с каким коэффициентом войдут в результат одночлены каждого типа (синие цифры на полях).
В пункте б) мы показали, что равенство в (1), а значит, и в неравенстве a) достигается только при $x=y=z$, т. е. при $a=b=c$ (для равностороннего треугольника).
Второе решение основано на искусной перегруппировке (и удачных переобозначениях). Найти её гораздо труднее, чем в пункте б), потому что переменные $a$, $b$, $c$ на сей раз связаны неравенством треугольника и это должно быть использовано.
Обозначим левую часть неравенства через $f(a,b,c)$. Поскольку $f(a,b,c)=f(b,c,a)=f(c,a,b)$, без ограничения общности можно доказывать неравенство $f(a,b,c)\ge 0$, считая, что $b$ — средняя по длине сторона треугольника.
Предположим сначала, что $a\le b\le c$. Пусть $a=b-\alpha$, $c=b+\gamma$; тогда нужно доказывать неравенство $f(b-\alpha,b,b+\gamma)\ge 0$ при $b>0$, $\alpha\ge 0$, $\gamma\ge 0$ и при $b+\gamma\lt (b-\alpha)+b$, т. е. $b\gt\alpha+\gamma$. Несложная, но объёмистая выкладка показывает, что $$
f(b-\alpha,b,b+\gamma)=b\alpha(\alpha+\gamma)(b-\alpha-\gamma)+\gamma^2(b-\alpha)(b+\alpha+\gamma).\tag{2}
$$
При указанных значениях переменных правая часть неотрицательна и обращается в нуль только при $\alpha=\gamma=0$, т. е. $a=b=c$. Пусть теперь $a\ge b\ge c$, тогда в тех же обозначениях выражение (2) следует рассматривать при $\alpha\le 0$, $\gamma\le 0$ и $b\gt-(\alpha+\gamma)$, но и в этом случае оно, очевидно, неотрицательно.
Оформить табличку с левого поля
