Эту фамилию нужно склонять.
Правильно: над «Архипелагом ГУЛАГом». См. издание, подготовленное Н. Д. Солженицыной.
Для слоговых аббревиатур, оканчивающихся на согласный, согласование в мужском роде при наличии опорного слова иного рода (среднего, женского) - частое явление. Ср., например: МИД, ТАСС.