При пересечении шара плоскостью AMN получим окружность, вписанную в треугольник AMN. В этом треугольнике \(|AN|=a\frac{\sqrt3}{2},\;\;|AM| = a\frac{\sqrt3}{3},\;\; |MN| = \frac{a}{2}\) (находится из ΔCMN).
Следовательно, если L - точка касания искомого шара с AM, то

$$ |AL|=\frac{|AN|+|AM|-|MN|}{2}=(\frac{5}{12}\sqrt3 -\frac{1}{4})a $$

Шар, вписанный в ABCD, имеет радиус \(\;r = \frac{1}{4}\sqrt{\frac{2}{3}}a\;\) и касается плоскости ACD в точке М.

Таким образом, если x - радиус искомого шара, то

$$ \frac{x}{r}=\frac{|AL|}{|AM|}=\frac{5-\sqrt3}{4} $$

Отсюда

$$ x=\frac{5\sqrt6 -3\sqrt2}{48}a $$