Мы приведём два решения пункта в) задачи. Первое из них использует метод математической индукции, причём индукционный шаг осуществляется от $n=k$ к $n=k+2$. При этом необходимо проверить вылолнение соответствующих неравенств для двух начальных значений $n$: $n=3$ и $n=4$. Эта проверка, собственно, и составляет содержание пунктов а) и б) задачи.
а) Итак, пусть $n=3$. Из условий $0\le x_i\le1$ ($i=1$, 2, 3) следует, что $$
(x_1-1)(1-x_2)(1-x_3)\le0,
$$
т. е.
$$
x_1x_2x_3+x_1+x_2+x_3-x_1x_2-x_2x_3-x_3x_1\le1.
$$
Поскольку $x_1x_2x_3\ge0$, получаем требуемое неравенство
$$
x_1+x_2+x_3-x_1x_2-x_2x_3-x_3x_1\le1.
$$
Рис. 9
б) Пусть $n=4$. Докажем, что $$
x_1+x_2+x_3+x_4-x_1x_2-x_2x_3-x_3x_4-x_4x_1\le2,
$$
используя геометрию.
Возьмём квадрат $A_1A_2A_3A_4$ со стороной длины 1. Ha его сторонах $A_1A_2$, $A_2A_3$, $A_3A_4$, $A_4A_1$ отметим, соответственно, точки $B_1$, $B_2$, $B_3$, $B_4$ так, чтобы $|A_iB_i|=x_i$ ($i=1$, 2, 3, 4; — см. рис. 9). Пусть $S_1$, $S_2$, $S_3$, $S_4$ — площади треугольников $A_1B_1B_4$, $A_2B_2B_1$, $A_3B_3B_2$, $A_4B_4B_3$. Очевидно,
$$
S_1+S_2+S_3+S_4\le1
$$
(треугольники лежат внутри квадрата площади 1 и не пересекаются); поэтому
$$
\dfrac{x_1(1-x_4)}2+\dfrac{x_2(1-x_1)}2+\dfrac{x_3(1-x_2)}2+\dfrac{x_4(1-x_1)}2\le1,
$$
откуда получается нужное неравенство для $n=4$.
в) Предположим, что неравенство
$$
x_1+x_2+\ldots+x_n-x_1x_2-x_2x_3-\ldots-x_{n-1}x_n-x_nx_1\le\left[\dfrac n2\right]\tag1
$$
верно для $n=k$; докажем, что оно верно для $n=k+2$.
Прежде всего заметим, что $$
x_{k+1}+x_{k+2}+x_kx_1-x_kx_{k+1}-x_{k+1}x_{k+2}-x_{k+2}x_1\le1.\tag2
$$
(Действительно, это следует из неравенства
$$
(x_1-1)(1-x_{k+1})(1-x_{k+2})\le0
$$
при $x_k\ge x_1$ и из неравенства
$$
(x_k-1)(1-x_{k+1})(1-x_{k+2})\le0
$$
при $x_1\le x_k$.) По предположению индукции
$$
x_1+\ldots+x_k-x_1x_2-\ldots-x_{k-1}x_k-x_kx_1\le\left[\dfrac k2\right].\tag3
$$
Складывая неравенства (2) и (3), получаем
$$
\begin{gather*}
x_1+\ldots+x_k+x_{k+1}+x_{k+2}-x_1x_2-\ldots-x_kx_{k+1}-x_{k+1}x_{k+2}-x_{k+2}x_1\le\\
\le\left[\dfrac k2\right]+1=\left[\dfrac k2+1\right]=\left[\dfrac{k+2}2\right],
\end{gather*}
$$
так что неравенство (1) справедливо и для $n=k+2$. Задача в) решена.
Другое, быть может, более «естественное», решение задачи в) — следующее:
Зафиксируем переменные $x_1$, $x_2$, $\ldots$, $x_{i-1}$, $x_{i+1}$, $\ldots$, $x_n$, а переменную $x_i=x$ будем изменять (на отрезке $[0;1]$). Тогда
$$
x_1+x_2+\ldots+x_n-x_1x_2-x_2x_3-\ldots-x_{n-1}x_n-x_nx_1=kx+b,
$$
где $k$ и $b$ — постоянные числа. Очевидно, линейная функция от $x$, определённая на отрезке $[0;1]$, принимает наибольшее значение на одном из концов отрезка. Поскольку это рассуждение можно применить последовательно к $x_1$, затем к $x_2$, $\ldots$, к $x_n$, наибольшее значение выражения $\Sigma=x_1+x_2+\ldots+x_n-x_1x_2-\ldots-x_{n-1}x_n-x_nx_1$ достигается, когда некоторые из чисел $x_i$ равны единице, а остальные — нулю. Заметим теперь, что если два соседних «икса» оба равны единице (например, $x_i$ и $x_{i+1}$), то один из них можно превратить в нуль, не уменьшив при этом значения $\Sigma$. Таким образом, $\Sigma$ принимает наибольшее значение, когда несколько (скажем, $m$) не соседних «иксов» равны единице. Поскольку $m\le\left[\dfrac n2\right]$, («иксы» — не соседние!), мы получаем, что $\Sigma_{\text{max}}\le\left[\dfrac n2\right]$. Но легко проверить, что при $x_1=x_3=x_5=\ldots=0$, $x_2=x_4=\ldots=1$ значение $\Sigma$ как раз равно $\left[\dfrac n2\right]$, откуда следует, что $\Sigma_{\text{max}}=\left[\dfrac n2\right]$.
