Пусть О - центр шара, CD - диаметр, М - середина ВС. Докажем, что |АВ| = |АС|. Для этого достаточно доказать, что АМ ⊥ ВС. По условию, SA ⊥ OS, кроме того, SM ⊥ OS (треугольники CSD, CSB, BCD - прямоугольные, О и М - середины CD и СВ). Следовательно, плоскость AMS перпендикулярна 0S, AM ⊥ OS. Но AM ⊥ CD, значит, AM перпендикулярна плоскости BCD, таким образом, AM ⊥ ВС.

Ответ: \(\frac{Ra^3\sqrt{4b^2-a^2}}{6(4R^2+a^2)}\)