Правильно: над «Архипелагом ГУЛАГом». См. издание, подготовленное Н. Д. Солженицыной.
Запятая не нужна. Если Вы хотите избежать разночтений, лучше перестроить предложение: И все оскорбившие его отправятся по доносу в неолиберальный ГУЛАГ.
Для слоговых аббревиатур, оканчивающихся на согласный, согласование в мужском роде при наличии опорного слова иного рода (среднего, женского) - частое явление. Ср., например: МИД, ТАСС.