Запятая ставится.
Если однородных членов предложения более двух, а союз повторяется перед каждым из них, кроме первого, то запятая ставится между всеми однородными членами. Верно: От домов во все стороны шли ряды деревьев, или кустарников, или цветов.