Произведём следующую операцию: умножим первое соотношение на $a^2$, второе на ($-2a$) и сложим с третьим соотношением. Получим
$$
\textstyle\sum\limits_{k=1}^5{}(a^2kx_k-2ak^3x_k+k^5x_k)=0
$$
или $$
\textstyle\sum\limits_{k=1}^5kx_k(a-k^2)^2=0.\tag1
$$
Поскольку числа $x_1$, $\ldots$, $x_5$ неотрицательны, отлично от нуля может быть не более чем одно из них; при этом коэффициент при нём должен обращаться в нуль. Если все $x_k$ равны нулю, соотношение $\sum\limits_{k=1}^5kx_k=a$ даёт $a=0$. Если же одно из $x_k$ отлично от нуля, из (1) получаем ещё пять значений для $a$: 1, 4, 9, 16, 25. Все эти значения действительно годятся: для каждого из них соотношение $\sum\limits_{k=1}^5kx_k=a$ позволяет найти соответствующее решение: $(1;0;0;0;0;)$, $(0;2;0;0;0)$, $(0;0;3;0;0)$, $(0;0;0;4;0)$, $(0;0;0;0;5)$; тривиальная проверка показывает, что эти решения удовлетворяют и остальным соотношениям.