а) Ответ: $(x,y,z)=(1,2,3)$.
б) Выведем из данного уравнения неравенство, которое позволит найти все решения перебором небольшого числа возможных значений неизвестных.
Пусть для определённости $x\le y\le z$, тогда
$$
z=nx^2y^2-\dfrac{x^3+y^3}{z^2}\ge nx^2y^2-(x+y).
$$
В то же время, очевидно, $x^3+y^3$ делится нацело на $z^2$, поэтому
$$
x^3+y^3\ge z^2\ge(nx^2y^2-(x+y))^2,
$$
следовательно,
$$
n^2x^4y^4\lt2nx^2y^2(x+y)+x^3+y^3.
$$
Деля обе части на $nx^3y^3$, мы получаем нужную оценку
$$
nxy\lt2\left(\dfrac1x+\dfrac1y\right)+\dfrac1{nx^3}+\dfrac1{ny^3}.\tag{*}
$$
Из неё сразу следует, что $x=1$, потому что при $x\ge2$ (и $y\ge x$) левая часть неравенства (*) не меньше 4, а правая — меньше 3. Подставим значение $x=1$ в (*):
$$
ny\lt2+\dfrac{2}{y}+\dfrac{1}{n}+\dfrac{1}{ny^3}.
$$
Это неравенство может выполняться лишь при $y\le3$ (при $y\ge4$ его правая часть меньше 4). Вспомним, что число $x^3+y^3=1+y^3$ должно делиться на $z^2$, причём $z\ge y$; отсюда вытекает, что $z=1$ при $y=1$ ($1+y^3=2$), $z=3$ при $y=2$ ($1+y^3=9$), а при $y=3$ ($1+y^3=28$) подходящих значений $z$ не существует. Остаётся подставить тройки чисел $(1,1,1)$ и $(1,2,3)$ в исходное уравнение и найти, что в первом случае $n=3$, а во втором $n=1$.
Итак, ответ: при $n=3$ $x=y=z=1$, при $n=1$ уравнению удовлетворяет тройка $(1,2,3)$ и все, получающиеся из неё перестановками.
Решённое нами уравнение напоминает по структуре уравнение $x^2+y^2+z^2=nxyz$, которое подробно рассматривалось в статье М. Г. Крейна «Диофантово уравнение А. А. Маркова» в «Кванте» № 4 за этот год. Интересно, что это уравнение также разрешимо только при $n=1$ и $n=3$, однако число его решений в обоих случаях бесконечно. Ещё одно похожее уравнение в целых числах ($x+y+z=xyz$) встречается в решении задачи М918.
