Пусть радиус основания конуса равен R, высота - h, ребро куба - a. Сечение конуса плоскостью, параллельной основанию и проходящей через центр куба, есть окружность радиуса \(R\frac{2h-a\sqrt2}{2h}\), в которую вписан прямоугольник (сечение куба) со сторонами a и a√2, т. е.

$$ 3a^2 = R^2\frac{(2h-a\sqrt2)^2}{h^2} \;\;\;\;\;\;(1) $$

Сечение конуса, параллельпое основанию конуса и проходящее через ребро куба, противоположное ребру, лежащему в основании, есть окружность с радиусом \(R\frac{h-a\sqrt2}{h}\). С другой стороны, диаметр этой окружности равен a, т. е.

$$ a=2R\frac{h-a\sqrt2}{h} \;\;\;\;\;\;\;(2) $$

Из соотношений (1), (2) получим

$$ h=\frac{\sqrt2(5+\sqrt3)}{4}a,\;\; R=\frac{2\sqrt3 - 1}{2}a $$

Ответ: \(\frac{\pi(53-7\sqrt3)\sqrt2}{48}\)