Рассмотрим сначала «крайний» случай, когда числа принимают всего два различных значения: $k$ из них равны $a \lt 0$, а остальные $(n-k)$ равны $b \gt 0$. Тогда $ka +(n-k)b=0$, т. е. $ka=-(n-k)b$ и $$
ka^2+(n-k)b^2=-(n-k)ab-kab=1,
$$
откуда $ab=-\dfrac 1 n$. Общий случай попробуем свести к этому, «раздвигая» переменные. Заметим, что если заменить пару чисел $u$, $v$ ($u \lt v$) на $u-t$, $v+t$ ($t \gt 0$), то сумма не изменится, а сумма квадратов увеличится:
$$
(u-t)^2+(v+t)^2=u^2+v^2+2t(v-u)+t^2.
$$
Пусть $a \lt 0$ — наименьшее, $b \gt 0$ — наибольшее из данных $n$ чисел $x_1$, $x_2$, $\ldots$, $x_n$. Если в этом наборе есть два числа, отличных от $a$ и $b$, раздвинем их, не меняя суммы так, чтобы одно из них сравнялось с одним из крайних чисел $a$ или $b$. После нескольких операций получим набор из $n$ чисел, в котором все, кроме одного — обозначим его $c$, — равны $a$ (пусть их $k$) или $b$ (их $m=n-k-1$), сумма которых равна 0, а сумма квадратов — не меньше 1:
$$\begin{gather*}
ka+c+mb=0, \\
ka^2+c^2+mb^2=-(c+mb)a+c^2-(ka+c)b \ge 1.
\end{gather*}$$
Поскольку $a \le c \lt b$,
$$
ca-c+cb-ab=(c-a)(b-c) \gt 0.
$$
Сложив это неравенство с предыдущим, получим требуемое:
$$
-(m+k+1)ab=-nab \ge 1,
\qquad\text{или}\qquad
ab \lt -\dfrac 1 n .
$$
(Из этого доказательства ясно, что равенство достигается лишь в «крайних» случаях, рассмотренных вначале.)
Задача имеет и прямое алгебраическое решение. Для любого $i$, $1 \le i \le n$
$$
(x_i-a)(x_i-b)\le 0.
$$
Просуммировав эти неравенства, получим
$$
\sum_{i\le 1}^{n} x_i^2 - (a+b) \sum_{i=1}^{n}x_i +nab \le 0. \tag{*}
$$
Ho $\textstyle\sum\limits_{i\le 1}^{n} x_i^2=1$, $\sum\limits_{i=1}^{n}x_i=0$, поэтому (*) превращается в $nab \le -1$.
