Пусть $c_k=\cos\dfrac{\pi k}7$ при $k=0$, $\pm1$, $\pm2$, $\pm3$, $\ldots$. Заметим, что $c_k$ — проекция на ось $Ox$ единичного вектора $\overrightarrow{e_k}$, образующего угол $\dfrac{\pi k}7$ с лучом $x\ge0$, $y=0$ (см. рисунок). Легко убедиться в том, что $c_{7+m}=c_{7-m}=-c_m$.
а) Нетрудно доказать, что $$
\overrightarrow{e_1}+\overrightarrow{e_3}+\overrightarrow{e_5}+\overrightarrow{e_7}+\overrightarrow{e_{-5}}+\overrightarrow{e_{-3}}+\overrightarrow{e_{-1}}=0\tag1
$$
(одно из доказательств: при повороте на угол $\dfrac{2\pi}7$ эта система векторов переходит в себя; при этом сумма не меняется и, следовательно, равна $\overrightarrow 0$).
Из (1) сразу следует, что $c_7+2c_1+2c_3+2c_5=0$, т. е.
$$
r_1=c_1+c_3+c_5=-\dfrac12c_7=\dfrac12.
$$
Пользуясь известной формулой $2\cos^2\alpha=1+\cos2\alpha$, получим $2c_1^2=1+c_2$, $2c_3^2=1+c_6$, $2c_5^2=1+c_{10}$, а так как $c_2=-c_5$, $c_6=-c_1$, $c_{10}=-c_3$, находим
$$
r_2=c_1^2+c_3^2+c_5^2=\dfrac12(3-c_1-c_3-c_5)=\dfrac54.
$$
б), в) Докажем, что $c_1$, $c_3$, $c_5$ — корни многочлена третьей степени с рациональными коэффициентами. Рассмотрим многочлен
$$
p(x)=(x-c_1)(x-c_3)(x-c_5)=x^3+a_1x^2+a_2x+a_3,
$$
корни которого — $c_1$, $c_3$ и $c_5$. Выразим коэффициенты этого многочлена через его корни. Раскрывая скобки, получим
$$
\begin{align*}
a_1&=-(c_1+c_3+c_5)=-r_1=-\dfrac12;\\[6pt]
a_2&=c_1c_3+c_3c_5+c_5c_1=\dfrac12((c_1+c_3+c_5)^2-c_1^2-c_3^2-c_5^2)=\dfrac{r_1^2-r_2}{2}=\dfrac12\left(\dfrac14-\dfrac54\right)=-\dfrac12;\\[6pt]
a_3&=-c_1c_3c_5=-c_1c_2c_4=-\cos\dfrac\pi7\cos\dfrac{2\pi}7\cos\dfrac{4\pi}7=
-\dfrac{\sin\dfrac\pi7\cos\dfrac\pi7\cos\dfrac{2\pi}7\cos\dfrac{4\pi}7}{\sin\dfrac\pi7}=\\
&\qquad=-\dfrac{\sin\dfrac{2\pi}7\cos\dfrac{2\pi}7\cos\dfrac{4\pi}7}{2\sin\dfrac\pi7}=-\dfrac{\sin\dfrac{4\pi}7\cos\dfrac{4\pi}7}{4\sin\dfrac\pi7}=-\dfrac{\sin\dfrac{8\pi}7}{8\sin\dfrac\pi7}=\dfrac18.
\end{align*}
$$
Итак, для каждого $j=1$, 3, 5 выполнено равенство
$$
c_j^3-\dfrac12c_j^2-\dfrac12c_j+\dfrac18=0.
$$
Значит, для любого $n\ge2$
$$
c_j^{n+1}=\dfrac12c_j^n+\dfrac12c_j^{n-1}-\dfrac18c_j^{n-2}.
$$
Сложив три таких равенства (при $j=1$, 3, 5), получим для $r_n=c_1^n+c_3^n+c_5^n$ рекуррентную формулу
$$
r_{n+1}=\dfrac12r_n+\dfrac12r_{n-1}-\dfrac18r_{n-2},
$$
позволяющую вычислить $r_{n+1}$, если известны $r_n$, $r_{n-1}$, $r_{n-2}$.
Поскольку, в силу а), $r_1=\dfrac12$, $r_2=\dfrac54$, а $r_0=3$, находим
$$
\begin{align*}
r_3&=\dfrac12\cdot\dfrac54+\dfrac12\cdot\dfrac12-\dfrac18\cdot3=\dfrac12,\\[6pt]
r_4&=\dfrac12\cdot\dfrac12+\dfrac12\cdot\dfrac54-\dfrac18\cdot\dfrac12=\dfrac{13}{16}.
\end{align*}
$$
Ясно, что числа $r_n$ при каждом $n$ рациональны. (Подробнее о применённой в решении идее см. статью «Рассмотрим разность», «Квант», 1981, № 6.)
