На плоскости даны три точки $A$, $B$, $C$. Проведите через $C$ прямую, произведение расстояний до которой от $A$ и $B$ наибольшее. Всегда ли такая прямая единственна?
Рассмотрим сначала прямые, пересекающие отрезок $AB$ — идущие внутри угла $ACB$. Пусть $\angle ACB=2\gamma$. Произведение $P$ расстояний от точек $A$ и $B$ до прямой $l$ равно (рис. 1)
$$
P=ab\sin\varphi\sin\psi=\dfrac{ab(\cos(\varphi-\psi)-\cos(\varphi+\psi))}2,
$$
где $\varphi$, $\psi$ — углы, образуемые $l$ с отрезками $AC$ и $BC$. Поскольку $\varphi+\psi=2\gamma$ — величина постоянная, максимальное значение $P$ достигается при $\varphi=\psi$ и равно
$$
P'=\dfrac{ab(1-\cos2\gamma)}2=ab\sin^2\gamma.
$$
Рис. 1Рис. 2
Для прямых, идущих вне угла $ACB$, формула для $P$ точно такая же (рис. 2). В этом случае сумма $\varphi+\psi=\pi-2\gamma=2\delta$ тоже постоянна и равна внешнему углу $2\delta$ при вершине $C$ треугольника $ABC$, максимальное значение $P$ достигается при $\varphi=\psi$ и равно
$$
P''=ab\sin^2\delta.
$$
Таким образом, если угол $2\gamma=\angle ACB\gt\dfrac\pi2$, то искомая прямая — биссектриса $l'$ внутреннего угла треугольника $ABC$ при вершине $C$ (в этом случае $\sin^2\gamma\gt\sin^2\delta$ и $P'\gt P''$), если $2\gamma\lt\dfrac\pi2$, то — биссектриса $l''$ внешнего угла ($P'\lt P''$), а если $2\gamma=\dfrac\pi2$, то $P'=P''$ и искомых прямых две: $l'$ и $l''$.