Первое решение. Относительно $x_n$ это неравенство — квадратичное, $P_2(x)=3x_n^2+Ax_n+B\le0$, и оно выполняется на отрезке $[0;1]$, если $P_2(0)\le0$ и $P_2(1)\le0$. Эти два нepaвенства относительно $x_{n-1}$ — тоже квадратичные, такого же вида, и выполняются на всём отрезке $[0;1]$, если справедливы при $x_{n-1}=0$ и $x_{n-1}=1$. Рассуждая так далее, получаем, что достаточно проверить исходное неравенство для наборов $x_1$, $\ldots$, $x_n$, из 0 и 1. Если число $x_i$, равных единице, равно $k$, то получаем очевидное неравенство $(k+1)^2\ge4k$ (т. е. $(k-1)^2\ge0$).
Второе решение. Поскольку числа $x_1$, $x_2$, $\ldots$, $x_n$ принадлежат отрезку $[0;1]$,
$$
4(x_1^2+x_2^2+\ldots+x_n^2)\le4(x_1+x_2+\ldots+x_n),
$$
и наше неравенство снова сводится к очевидному
$$
4S\le(S+1)^2.
$$