Решение задачи а), так же как и б), сводится к доказательству векторного равенства — в задаче а) это равенство
$$\overrightarrow{OZ}=\dfrac{3R}{r}\overrightarrow{ZK}.\tag{1}
$$
В решениях обеих задач мы будем использовать такое основное соображение: чтобы доказать равенство двух векторов, достаточно доказать равенство их проекций по крайней мере на две (не параллельные) оси . Этими осями у нас будут стороны треугольника.
Мы будем использовать также известные факты о «центрах тяжести» двух и трёх точек: сумма двух векторов, проведённых из точки $P$ к концам отрезка, равна $2\overrightarrow{PN}$, где $N$ — середина этого отрезка; сумма трёх векторов, проведённых из точки $P$ к вершинам треугольника, равна $3\overrightarrow{PK}$, где $K$ — точка пересечения медиан треугольника.
Обозначим через $a$, $b$, $c$ длины сторон треугольника $ABC$, через $T_a$, $T_b$, $T_c$ — точки касания вписанной окружности с этими сторонами, через $\alpha$, $\beta$, $\gamma$ — величины углов $A$, $B$, $C$; пусть $N$ — середина стороны $BC$ (рис. 1).
Рисунок 1
а) Равенство (1) эквивалентно следующему:
$$\overrightarrow{OZ}=\dfrac{R}{r}(\overrightarrow{ZT_a}+\overrightarrow{ZT_b}+\overrightarrow{ZT_c}).\tag{2}
$$
Проверим, что левая и правая части дают одинаковые проекции на сторону $BC$ (проекции мы берём с учётом знака, считая положительным направление вектора $\overrightarrow{BC}$, т. е. проекция вектора $\overrightarrow{v}$ на ось $BC$ равна $|\overrightarrow{v}|\cos\alpha$, где $\alpha$ — угол между осью и вектором, или $\dfrac{\overrightarrow{v}\cdot\overrightarrow{BC}}{|BC|}$; очевидно, проекция суммы векторов равна сумме их проекций). Для двух других сторон (собственно, нам достаточно и одной из них) проверка аналогична — ведь в условии задачи стороны равноправны.
Поскольку проекции точек $O$ и $Z$ на сторону $BC$ — это точки $N$ и $T_a$, проекция вектора $\overrightarrow{OZ}=\overrightarrow{BZ}-\overrightarrow{BO}$ на ось $BC$ равна
$$
|BT_a|-|BN|=\dfrac{a+c-b}{2}-\dfrac{a}{2}=\dfrac{c-b}{2}
$$
($|BT_a|=\dfrac{a+c-b}{2}$ потому, что отрезки касательных, проведённых из каждой вершины треугольника к вписанной окружности, равны).
Проекция вектора $\overrightarrow{ZT_a}$ на $BC$ равна нулю, а проекция $\overrightarrow{ZT_b}+\overrightarrow{ZT_c}$ — суммы векторов длины $r$, образующих углы $90^\circ-\gamma$ и $90^\circ+\beta$ с осью $BC$ — равна
$$
r \cos (90^\circ-\gamma)+r\cos(90^\circ+\beta)=r\sin\gamma-r\sin\beta=\dfrac{r}{2R}(c-b)
$$
(в последнем равенстве использована теорема синусов: $c=2R\sin\gamma$, $b=2R\sin\beta$). Отсюда вытекает равенство (2).
б) Заметим, что векторы $\overrightarrow{n_a}$, $\overrightarrow{n_b}$, $\overrightarrow{n_c}$, о которых идёт речь в задаче, — это векторы длины 1, направленные так же, как $\overrightarrow{ZT_a}$, $\overrightarrow{ZT_b}$, $\overrightarrow{ZT_c}$ из задачи а). Обозначим через $P$ основание высоты $AP$ треугольника $ABC$ (рис. 2).
Рисунок номер 2
Найдём проекцию вектора $\overrightarrow{MO}$ на ось $BC$. Поскольку $\overrightarrow{OM}=\dfrac{\overrightarrow{OA}+\overrightarrow{OB}+\overrightarrow{OC}}{3}$, а проекции векторов $\overrightarrow{OB}$ и $\overrightarrow{OC}$ противоположны и равны по величине, проекция $\overrightarrow{MO}$ равна одной трети проекции вектора $\overrightarrow{AO}$; далее, поскольку $\overrightarrow{PN}=\dfrac{\overrightarrow{PB}+\overrightarrow{PC}}{2}$, проекция $\overrightarrow{AO}$ равна $\dfrac{|PC|-|PB|}{2}=\dfrac{b^2-c^2}{2a}$. (В последнем равенстве мы использовали теорему Пифагора:
$$
b^2-c^2=(|PC|^2+|AP|^2)-(|PB|^2+|AP|^2)=(|PC|-|PB|)(|PC|+|PB|)=(|PC|-|PB|)a.)
$$
Проекция вектора $a^3\overrightarrow{n_a}+b^3\overrightarrow{n_b}+c^3\overrightarrow{n_c}$ на ту же ось равна
$$
b^3\sin\gamma-c^3\sin\beta=\dfrac{b^3c-c^3b}{2R}=\dfrac{abc}{R}\cdot\dfrac{b^2-c^2}{2a}=4S\cdot\dfrac{b^2-c^2}{2a}.
$$
(в последнем равенстве использована формула $S=\dfrac{abc}{4R}$ для площади треугольника). Отсюда вытекает равенство задачи б).
Прямая $OM$ называется прямой Эйлера (неравностороннего) треугольника $ABC$. На ней всегда лежит точка $H$ пересечения высот треугольника $ABC$ (как видно из рассмотрения проекций, $\overrightarrow{OH}=3\overrightarrow{OM}=\overrightarrow{OA}+\overrightarrow{OB}+\overrightarrow{OC}$). В задаче а) доказано, что прямая Эйлера треугольника $T_aT_bT_c$ проходит через центр вписанной окружности треугольника $ABC$.