Разобьём объём планеты на тонкие сферические слои толщиной $\Delta r$. Легко показать, что равнодействующая гравитационных сил, действующих со стороны слоя на частицу внутри этого слоя, равна нулю. Действительно, рассмотрим для этого конус с малым углом при вершине, в которую помещена частица массы $m$. Конус вырезает из слоя участки площадями $s_1$ и $s_2$ (рис. 1). Если масса вещества, приходящегося на единицу поверхности слоя, равна $\mu$, то гравитационные силы, действующие на массу $m$ со стороны участков $s_1$ и $s_2$, равны
$$
F_1=\gamma\dfrac{m\mu s_1}{r_1^2},\quad F_2=\gamma\dfrac{m\mu s_2}{r_2^2};
$$
но $$
\dfrac{s_1}{r_1^2}\cos{\alpha_1}=\dfrac{s_2}{r_2^2}\cos{\alpha_2}=\Omega
$$
($\Omega$ — телесный угол при вершине конуса), a $\alpha_1=\alpha_2$; заштрихованные треугольники подобны, т. е. $\angle OA_1M_1=\angle OA_2M_2$, $\angle OA_1B_1=\angle OA_2B_2$ (они опираются на одну и ту же дугу) и $\alpha_1=\angle OA_1B_1-\angle OA_1M_1$, a $\alpha_2=\angle OA_2B_2-\angle OA_2M_2$. Поэтому $\dfrac{s_1}{r_1^2}=\dfrac{s_2}{r_2^2}$. Благодаря этому $F_1=F_2$, т. е. эти силы взаимно уравновешивают друг друга. Проведя аналогичное рассмотрение для других участков слоя, мы и докажем сделанное утверждение.
Рис. 1Рис. 2
Сила, с которой притягивается элемент слоя $\Delta s\,\Delta r$ к центру планеты, равна
$$
F=\gamma\dfrac{\dfrac 43\,\pi\,r^3\,\rho\,\Delta s\,\Delta r\,\rho}{r^2},
$$
где $r$ — расстояние от этого элемента до центра планеты. Отсюда найдём, что увеличение давления на участке толщиной $\Delta s$ равно
$$
\Delta p=\dfrac{F}{\Delta s}=\dfrac 43\pi\gamma\rho^2r\,\Delta r.
$$
Поэтому давление на расстоянии $r_0$ от центра планеты будет равно
$$
p=p_0+\dfrac 43\pi\gamma\rho^2\textstyle\sum r\,\Delta r.
$$
Так как сумма $r\,\Delta r$ равна площади фигуры, ограниченной графиком $y=r$ и осью $r$ (рис. 2), то $$
\textstyle\sum r\,\Delta r=\dfrac{(R+r_0)(R-r_0)}{2}=\dfrac{R^2-r_0^2}{2}.
$$
Поэтому
$$
p=p_0+\dfrac 23\pi\gamma\rho^2(R^2-r_0^2);
$$
$p_0$ — давление на поверхности планеты, которое можно принять равным нулю. Тогда
$$
p=\dfrac 23\pi\gamma\rho^2(R^2-r_0^2).
$$
В центре планеты ($r_0=0$) давление будет равно
$$
p_{\text{ц}}=\dfrac 23\pi\gamma\rho^2R^2.
$$