Внутри тетраэдра выбрана точка $M$. Докажите, что хотя бы одно ребро тетраэдра видно из точки $M$ под углом, косинус которого не больше, чем $-\dfrac{1}{3}$.
С. Б. Гашков
Всесоюзная математическая олимпиада школьников (1982 год, 9 класс)
Возьмём на лучах, соединяющих точку $M$ с вершинами данного тетраэдра, точки $A$, $B$, $C$ и $D$ на расстоянии 1 от $M$. Очевидно, точка $M$ будет находиться внутри нового тетраэдра $ABCD$ и его рёбра видны из этой точки под теми же углами, что и рёбра данного тетраэдра. Поэтому, не теряя общности, можно заменить данный тетраэдр на $ABCD$.
Первое решение. Поскольку точка $M$ лежит внутри тетраэдра, луч $DM$ проходит внутри его трёхгранного угла при вершине $D$ и потому пересекает плоскость $ABC$ в некоторой точке $P$, причём точка $P$ находится внутри треугольника $ABC$ (рис. 1). Допустим, что косинусы углов $AMD$, $BMD$ и $CMD$ больше $-\dfrac13$ (иначе доказывать нечего). Тогда сами эти углы меньше $\phi=\arccos\left(-\dfrac13\right)$, а значит углы $AMP$, $BMP$ и $CMP$ больше чем $180^\circ-\phi$. Отсюда вытекает, что длины отрезков $AP$, $BP$ и $CP$ больше $\sin\phi$.
Рис. 1
Действительно, возьмём, например, отрезок $AP$. Если угол $AMP$ — острый, то $\sin\widehat{AMP}\gt\sin(\pi-\phi)=\sin\phi$. В то же время $|AP|$ не превосходит расстояния от точки $A$ до прямой $MP$, которое равно $|AM|\cdot\sin\widehat{AMP}\gt1\cdot\sin\phi$ (см. рис. 1). Если же угол $AMP$ — тупой или прямой, то $AP$ — наибольшая сторона в треугольнике $AMP$ и $|AP|\gt|AM|=1\gt\sin\phi$.
Поскольку точка $P$ лежит внутри треугольника $ABC$, один из углов $APB$, $BPC$ и $CPA$ не меньше $120^\circ$. Пусть $\widehat{APB}\geq120^\circ$, тогда
$$
\begin{gather*}
|AB|^2=|AP|^2+|BP|^2-2|AP|\cdot|BP|\cdot\cos\widehat{APB}\gt\\
\gt\sin^2\phi+\sin^2\phi-2\sin^2\phi\cdot\cos120^\circ=3(1-\cos^2\phi)=\dfrac83.
\end{gather*}
$$
С другой стороны, полагая $\alpha=\widehat{AMB}$, мы имеем
$$
|AB|^2=|AM|^2+|BM|^2-2|AM|\cdot|BM|\cos\alpha=2(1-\cos\alpha).
$$
Таким образом, $2(1-\cos\alpha)\gt\dfrac83$; следовательно, $\cos\alpha\lt-\dfrac13$.
Рис. 2
Второе решение. Обозначим векторы $\overrightarrow{MA}$, $\overrightarrow{MB}$, $\overrightarrow{MC}$ и $\overrightarrow{MD}$ через $\overrightarrow{e_1}$, $\overrightarrow{e_2}$, $\overrightarrow{e_3}$, $\overrightarrow{e_4}$ (рис. 2). Так как точка $M$ лежит внутри тетраэдра, никакие три из них не компланарны. Разложим вектор $\overrightarrow{e_4}$ по остальным трём:
$$
\overrightarrow{e_4}=y_1\overrightarrow{e_1}+y_2\overrightarrow{e_2}+y_3\overrightarrow{e_3}.
$$
Заметим, что коэффициенты $y_1$, $y_2$ и $y_3$ отрицательны. В самом деле, рассмотрим, например, $y_3$. Вектор $\overrightarrow{e_4}$ есть сумма вектора $y_1\overrightarrow{e_1}+y_2\overrightarrow{e_2}=\overrightarrow{MK}$, где $K$ — некоторая точка плоскости $ABM$, и вектора $\overrightarrow{KD}=y_3\overrightarrow{e_3}$, коллинеарного вектору $\overrightarrow{e_3}$ (см. рис. 2). Точка $M$ лежит внутри тетраэдра, поэтому точки $C$ и $D$ лежат по разные стороны от плоскости $ABM$, а значит, векторы $\overrightarrow{MC}=\overrightarrow{e_3}$ и $\overrightarrow{KD}=y_3\overrightarrow{e_3}$ противоположно направлены, т.е. $y_3\lt0$.
Положим $x_i=-y_i$ при $i=1$, 2, 3 и $x_4=1$, тогда полученное разложение вектора $\overrightarrow{e_4}$ перепишется в виде
$$
x_1\overrightarrow{e_1}+x_2\overrightarrow{e_2}+x_3\overrightarrow{e_3}+x_4\overrightarrow{e_4}=\overrightarrow{0},\tag1
$$
причём все числа $x_i$ положительны. Пусть $x_1$ — наибольшее из них. Умножим обе части (1) скалярно на вектор $\overrightarrow{e_1}$:
$$
x_1+x_2\cos\alpha_2+x_3\cos\alpha_3+x_4\cos\alpha_4=0,\tag2
$$
где $\alpha_i$ — угол между векторами $\overrightarrow{e_1}$ и $\overrightarrow{e_i}$ ($i=2$, 3, 4), и перегруппируем слагаемые:
$$
\left(x_1-\dfrac13(x_2+x_3+x_4)\right)+x_2\left(\cos\alpha_2+\dfrac13\right)+x_3\left(\cos\alpha_3+\dfrac13\right)+x_4\left(\cos\alpha_4+\dfrac13\right)=0.
$$
Первое слагаемое в левой части неотрицательно, так как $x_1\ge x_i$ при $i=2$, 3, 4; поэтому хотя бы одно из остальных слагаемых неположительно: $x_i\left(\cos\alpha_i+\dfrac13\right)\le0$ для некоторого $i$. Но $x_i\gt0$; следовательно, $\cos\alpha_i\le-\dfrac13$.
Сделаем два замечания. Во-первых, постоянную $-\dfrac13$ в условии уменьшить нельзя, как показывает пример правильного тетраэдра $ABCD$ и его центра $M$. В этом случае в формуле (2) надо положить $x_i=1$ ($i=1$, 2, 3, 4), $\alpha_2=\alpha_3=\alpha_4=\phi$, откуда $\cos\phi=-\dfrac13$ — все рёбра правильного тетраэдра видны из его центра под углом $\phi=\arccos\left(-\dfrac13\right)$.
Во-вторых, нетрудно показать, что всегда хотя бы одно ребро тетраэдра будет видно из его внутренней точки $M$ под углом, косинус которого не меньше чем $-\dfrac13$, т. е., что $\overrightarrow{e_i}\cdot\overrightarrow{e_j}\ge-\dfrac13$ хотя бы для одной пары векторов $\overrightarrow{e_1}$, $\overrightarrow{e_2}$, $\overrightarrow{e_3}$, $\overrightarrow{e_4}$ (см. второе решение). Действительно, в противном случае
$$
\begin{gather*}
(\overrightarrow{e_1}+\overrightarrow{e_2}+\overrightarrow{e_3}+\overrightarrow{e_4})^2=
\overrightarrow{e_1}{}^2+\overrightarrow{e_2}{}^2+\overrightarrow{e_3}{}^2+\overrightarrow{e_4}{}^2+{}\\
{}+2(\overrightarrow{e_1}\cdot\overrightarrow{e_2}+\overrightarrow{e_1}\cdot\overrightarrow{e_3}+\ldots+\overrightarrow{e_3}\cdot\overrightarrow{e_4})\lt
4+2\cdot6\cdot\left(-\dfrac13\right)=0
\end{gather*}
$$
— противоречие.
