Решение задачи основано на том, что продолжение падающего луча симметрично отраженному лучу относительно той грани, от которой луч отражается. Введем естественным образом систему координат, взяв ее начало в точке N, а в качестве осей x, y и z - ребра NK, NL и NM, обозначим через Q’ и R’ последовательные точки пересечения прямой SP с координатными плоскостями, отличными от LNM. Имеем: |PQ| = |PQ’|, |QR| = |Q’R’|.

Точка Р имеет координаты (0, 1, √3). Обозначим через α, β, а углы, образованные лучом SP с осями координат. Из условия следует, что $\beta = \frac{\pi}{4}$, далее найдем cosα из равенства

$2cos^2\alpha + cos^2\beta = 1,\;\;\;cos\alpha = \frac{1}{2}$ (α - острый угол).

Следовательно, вектор а (1/2, √2/2, 1/2) параллелен прямой SP. Если А (х, у, z) - произвольная точка на этой прямой, то

$$\vec{ОА} = \vec{OP} + ta$$

или покоординатно

$$x=\frac{t}{2},\;\;y=1+\frac{\sqrt2}{2}t,\;\;z=\sqrt3+\frac{t}{2}$$

Координаты y и z обращаются в нуль при $t_1 = -\sqrt2$ (это будет точка Q’) и при $t_2 = -2\sqrt3$ (точка R’). Таким образом, $$Q’(-\frac{\sqrt2}{2},\;0,\;\sqrt3-\frac{\sqrt2}{2}),\;\;R’(-\sqrt3, 1-\sqrt6, 0),\\ |PQ’|=\sqrt2, \;\;|Q’R’|=2\sqrt3-\sqrt2$$

Ответ: $2\sqrt3$.