$$ V=S\cdot H $$

1) так как призма вписана в цилиндр, то высота призмы равна высоте цилиндра, а основание призмы вписано в основание цилиндра, Н = 5.

2) по условию R удовлетворяет уравнению \(R^2 + R – 6 = 0\), решая которое находим \(R_1 = -3, R_2 = 2\), так как радиус величина положительная то -3 не удовлетворяет условию задачи.

3) найдем сторону вписанного правильного треугольника по формуле a = R√3, a = 2√3.

4) найдем площадь основания правильной призмы, как площадь правильного треугольника: \(S=\frac{a^2 \sqrt3}{4}=\frac{(2\sqrt3)^2 \cdot \sqrt3}{4}=3\sqrt3\)

5) вычислим объём призмы: V = S • H = 3√3 * 5 = 15√3 .

Ответ: 15√3