В задаче, по существу, требуется доказать существование бесконечного числа натуральных $n$ таких, что $n^2+1$ раскладывается в произведение не очень больших сомножителей. Это можно сделать различными способами.
Покажем, например, что существует бесконечно много $n$, при которых $n^2+1$ имеет вид $5m^2$. Иными словами, уравнение $n^2-5m^2=-1$ имеет бесконечное число натуральных решений. Это утверждение следует из следующих двух фактов, каждый из которых проверяется непосредственно: пара $n=2$, $m=1$ удовлетворяет этому уравнению, и если $n=a$, $m=b$ — его решение, то и пара $n=9a+20b$, $m=4a+9b$ тоже (как дойти до этих формул, объясняется в статье Н. Вагутена «Сопряжение числа», «Квант», 1980, № 2).
Это сразу даёт нам доказательство утверждения задачи а). Действительно, при найденных значениях $n$ имеем $n^2+1=5m^2$, $m=\sqrt{\dfrac{n^2+1}{5}}\lt \dfrac{n}{2}$ и $n!$ делится на $n^2+1$, так как при $n\gt 5$ в произведении $1\cdot 2\cdot 3\cdot \ldots \cdot n$ встречаются числа 5, $m$ и $2m$.
Так же можно действовать и в общем случае б). Но для этого пришлось бы доказывать, что существует бесконечно много натуральных $D$ таких, что число натуральных решений уравнения $n^2-Dm^2=-1$ бесконечно (выбрав тогда $D$ так, чтобы выполнялось неравенство $D\ge \dfrac{5}{\alpha ^2}$, мы бы получили искомые значения $n$). Это утверждение верно, но элементарное доказательство его весьма сложно, поэтому мы пойдём другим путём.
Будем искать нужные нам $n$ среди чисел вида $2k^2$. В этом случае $n^2+1$ разлагается в произведение
$$
n^2+1=4k^4+1=(2k^2+2k+1)(2k^2-2k+1),
$$
но этого ещё недостаточно. Покажем, как получить много таких $k$, при которых числа $P(k)=2k^2+2k+1$ и $Q(k)=2k^2-2k+1$ — составные (разлагаются на множители). Возьмём произвольное натуральное $c$ и положим $p=P(c)$, $q=Q(c)$. Тогда при любом $l$ число $P(c+lpq)$ делится на $p$, а $Q(c+lpq)$ делится на $q$ (докажите!). Пусть $P(c+lpq)=p\cdot r$ и $Q(c+lpq)=q\cdot s$. Взяв $c$ достаточно большим, мы можем добиться того, чтобы $p=P(c)$ и $q=Q(c)$ стали больше, чем $\dfrac{5}{\alpha}$ (это следует из того, что $P(k)$ и $Q(k)$ неограниченно возрастают с ростом $k$). В таком случае
$$
n^2+1=4k^4+1=P(k)\cdot Q(k)=p\cdot q\cdot r\cdot s,
$$
где $k=c+lpq$, $r=\dfrac{P(k)}{p}\lt \dfrac{P(k)}{5/\alpha}\lt \dfrac{\alpha n}{4}$ (при $k\gt 5$) и $s=\dfrac{Q(k)}{q}\lt \dfrac{Q(k)}{5/\alpha} \lt \dfrac{\alpha n}{4}$ (при $k\gt 5$). Выбирая теперь $l$ так, чтобы $p$ и $q$ были меньше, чем $\dfrac{\alpha n}{4}$, получаем, что в последовательности 1, 2, 3, $\ldots$, $[\alpha n]$ существуют четыре различных числа, одно из которых делится на $p$, другое на $q$, третье на $r$, а четвёртое на $s$. Таким образом, мы построили бесконечное множество таких $n$, что $[\alpha n]!$ делится на $n^2+1$.
Возможны и другие решения этой задачи. Наиболее короткое, по-видимому, основано на разложении
$$
64m^{12}+1=(4m^4+1)(4m^4-4m^3+2m^2-2m+1)(4m^4+4m^3+2m^2+2m+1)
$$
(это решение предложено нашим читателем В. Юдаковым).
