a) Доказательство будем вести от противного. Допустим, что при любой расстановке чисел $a$, $b$, $c$, $d$, $e$ рассматриваемая сумма больше $\dfrac15$, в частности (см. рисунки 1 и 2): $ab+bc+cd+de+ea\gt\dfrac15$, $ac+ce+eb+bd+da\gt\dfrac15$.
Отсюда получим противоречие:
$$\begin{gather*}
1=(a+b+c+d+e)^2=\\
=\dfrac{a^2+b^2}{2}+\dfrac{b^2+c^2}{2}+\dfrac{c^2+d^2}{2}+\dfrac{d^2+e^2}{2}+\dfrac{e^2+a^2}{2}+\\
+2[(ab+bc+cd+de+ea)+(ac+ce+eb+bd+da)]\ge\\
\ge3(ab+bc+cd+de+ea)+2(ac+ce+eb+bd+da)\gt1
\end{gather*}$$
(мы использовали неравенство $x^2+y^2\ge2xy$).
Рисунок номер 1 и 2
Из решения видно, что условие неотрицательности чисел несущественно. Утверждение задачи (с заменой $\dfrac15$ на $\dfrac1n$) справедливо для любых $n$ чисел.
б) Мы должны доказать, что для любых $n\ge4$ неотрицательных чисел $a_1$, $\ldots$, $a_n$ сумма которых равна 1, выполнено неравенство
$$
a_1a_2+a_2a_3+\ldots+a_{n-1}a_n+a_na_1\le\dfrac14.
$$
При чётном $n$ ($n=2m$) это неравенство доказывается непосредственно: пусть $a_1+a_3+\ldots+a_{2m-1}=a$; тогда, очевидно,
$$
a_1a_2+\ldots+a_na_1\le(a_1+a_3+\ldots+a_{2m-1})(a_2+a_4+\ldots+a_{2m})=a(1-a)\le\dfrac14.
$$
Пусть теперь $n$ нечётно и пусть $a_k$ — наименьшее из данных чисел. (Для удобства будем считать, что $1\lt k\lt n-1$ — это не ограничивает общности при $n\ge 4$.) Положим $b_i=a_i$ при $i=1$, $\ldots$, $k-1$, $b_k=a_k+a_{k+1}$ и $b_i=a_{i+1}$ при $i=k+1$, $\ldots$, $n-1$. Применяя наше неравенство к числам $b_1$, $\ldots$, $b_{n-1}$ получим:
$$
a_1a_2+\ldots+a_{k-2}a_{k-1}+(a_{k-1}+a_{k+2})b_k+a_{k+2}a_{k+3}+\ldots+a_{n-1}a_n+a_na_1\le\dfrac14.
$$
Остаётся воспользоваться тем, что $$
a_{k-1}a_k+a_ka_{k+1}+a_{k+1}a_{k+2}\leq a_{k-1}a_k+a_{k-1}a_{k+1}+a_{k+1}a_{k+2}\leq(a_{k-1}+a_{k+2})b_k.
$$
Заметим, что в обоих пунктах указанные оценки точные (их нельзя уменьшить); в пункте а) оценка $\dfrac1n$ достигается, когда все $n$ чисел равны, а в пункте б) — когда два из них равны $\dfrac12$, а остальные 0.
