a), в). Для краткости мы начнём излагать решения задач а) и в) одновременно. Отметим сразу, что утверждение а) следует из в), так как площадь любой грани тетраэдра (в данном случае — площадь сечения) меньше суммы площадей трёх других граней. (Ортогональные проекции этих трёх граней на плоскость первой грани полностью её покрывают, а площади проекций меньше площадей самих граней.) Тем не менее, мы докажем а) независимо, поскольку при этом получится несколько более общий результат.
Обозначим вершины рассматриваемого треугольного сечения куба через $A$, $B$, $C$, общую вершину трёх рёбер, на которых они лежат — через $V$, точки касания вписанной сферы с плоскостями $ABC$, $VAB$, $VBC$, $VCA$ — через $T$, $K$, $L$, $M$ (последние три точки, очевидно, — центры граней куба; рис. 1). В силу равенства касательных, проведённых к сфере из одной точки, $AT=AK=AM$, $BT=BK=BL$, $CT=CL=CM$, поэтому треугольники $ABK$ и $ABT$, $BCL$ и $BCT$, $CAM$ и $CAT$ (рис. 1), а также $AVK$ и $AVM$, $BVK$ и $BVL$, $CVL$ и $CVM$ (рис. 2) попарно равны и, тем более, равновелики. Следовательно, площадь сечения $ABC$ равна сумме $S_1$ площадей голубых треугольников на рисунке 1, а площадь $S_{\text{тетр}}$ полной поверхности тетраэдра $VABC$ равна сумме площадей четырёхугольников $AKBV$, $BLCV$ и $CMAV$, т. е. удвоенной сумме $S_2$ площадей зелёного, красного и жёлтого треугольников на рисунке 2:
$$
S_{\text{тетр}}=2S_2=2(S_{AKV}+S_{BKV}+S_{CLV})=2(S_{AKBV}+S_{CLV}).
$$
Рисунок 1
Рисунок 2
Пусть $S_0$ — площадь грани куба. Докажем, что для любых трёх точек $A$, $B$, $C$ на рёбрах куба, выходящих из вершины $V$,
$$
S_1=S_{ABK}+S_{BCL}+S_{CAM}\le\dfrac{S_0}{2}
\tag{1}$$
(и, в частности, утверждение a)).
Для этого заметим, что если две из трёх точек, например $B$ и $C$, закреплены, то площади треугольников $ABK$ и $ACM$, а значит и вся сумма $S_1$, линейно зависят от $x=VA$ (доказательство см. на рисунке 3). Поэтому всегда можно передвинуть точку $A$ в конец ребра так, чтобы величина $S_1$ возросла (или, во всяком случае, не уменьшилась). То же самое можно проделать последовательно с точками $B$ и $C$; следовательно, неравенство (1) достаточно доказать для точек $A$, $B$ и $C$, расположенных в вершинах куба. Имеется всего 4 таких расположения (с точностью до переобозначений); они показаны на рисунке 4. В двух случаях $S_1=0$, в двух других $S_1=\dfrac{S_0}2$. Легко понять, что за исключением двух последних случаев неравенство в (1) всегда строгое, но треугольник $ABC$ на рисунке 4, в можно рассматривать как предельное положение сечения, касающегося вписанной сферы, поэтому оценка в задаче а) точная.
Рисунок 3
Рисунок 4
Докажем теперь неравенство
$$
S_2=S_{AKBV}+S_{CLV}\lt\dfrac{S_{0}}2
$$
(и вместе с ним — утверждение в)).
Пусть для определённости $KB\ge KA$. Очевидно, прямая $KB$ делит грань куба на две равные трапеции площади $\dfrac{S_0}2$, одна из которых — $VBB_1U$ (рис. 2) состоит из четырёхугольников $AKBV$ и $AKB_1U$. Таким образом, достаточно доказать, что $$
S_{CLV}\lt S_{AKB_1U}.
$$
Отложим на ребре $UV$ отрезок $UC_1=VC$ (рис. 5); тогда треугольники $C_1KU$ и $CLV$ равны, причём
$$
\angle C_1KU=\angle CLV=\angle AKB_1.
$$
(Действительно, из равенства одноцветных треугольников на рисунке 2 следует, что $$\begin{gather*}
2(\angle CLV+\angle AKB)=\angle AKB+\angle BLC+\angle CMA=\\
=\angle ATB+\angle BTC+\angle CTA=360^\circ=2(\angle AKB_1+\angle AKB).)
\end{gather*}$$
Следовательно, $\angle B_1KU=\angle C_1KA$ (рис. 5) и, кроме: того, $KB_1=KB\ge KA$, $KU\gt KC_1$, поэтому $S_{AKC_1}\lt S_{B_1KU}$, т. е.
$$
S_{CLV}=S_{C_1KU}=S_{AKC_1}+S_{AKU}\lt S_{B_1KU}+S_{AKU}=S_{AKB_1U}.
$$
Такие же соображения, как в пункте а), показывают, что и здесь оценка точная.
Рисунок 5
б) Пусть $ABCD$ — четырёхугольное сечение куба, отделяющее от него ребро $UV$ и пересекающее грани с центрами $K$, $L$, $M$, $N$ (рис. 6). Как и выше, легко видеть, что его площадь равна сумме $S_3$ площадей треугольников $ABK$, $BCL$, $CDM$ и $DAN$, которая, очевидно, меньше суммы
$$
S_4=S_{ABK}+S_{BLCV}+S_{CDM}+S_{DNAU}.
$$
Покажем, что $S_4=\dfrac{S_0}2$ ($S_0$ — площадь грани куба).
Очевидно, $S_{ABK}=\dfrac{S_{ABB_1}}2$, где $B_1$ — точка, симметричная $B$ относительно $K$ (см. рис. 6), поскольку треугольники $ABK$ и $ABB_1$ имеют общее основание $AB$, а высота первого вдвое меньше высоты второго. Аналогично, $S_{BVL}=\dfrac{S_{BVA}}2$, $S_{AUN}=\dfrac{S_{AUV}}2$. Следовательно,
$$
S_{ABK}+S_{BVL}+S_{AUN}=\dfrac12(S_{ABB_1}+S_{BVA}+S_{AUV})=\dfrac12S_{BVUB_1}=\dfrac14S_0
$$
и, точно так же, $$
S_{CDM}+S_{CVL}+S_{DUN}=\dfrac14 S_0.
$$
Складывая эти два равенства, мы и получим, что $S_4=\dfrac{S_0}2$.
Из решения видно, что равенство $S_4=\dfrac{S_0}2$ верно для любых точек $A$, $B$, $C$, $D$ на тех же рёбрах при условии, что центры граней $K$ и $M$ находятся по разные стороны с ребром $UV$ относительно прямых $AB$ и $CD$ соответственно. Если точка $A$ или $D$ совпадает с $U$, а $B$ или $C$ — с $V$, то $S_3=S_4$; в частности, случай, когда $A=U$, $B=V$, а $C$ и $D$ — середины соответствующих рёбер, можно получить как предельное положение сечения, касающегося вписанной сферы, при $A\to U$, $B\to V$, поэтому в этой задаче оценка также точная.
Попробуйте доказать самостоятельно, что боковая поверхность усечённой пирамиды (или призмы) $AUDBVC$ не превосходит $S_0$, причём равенство достигается как раз в случае призмы, т. e. когда касательная плоскость $ABCD$ параллельна ребру $UV$.
Рисунок 6
