Запятая ставится.
Верно: 10-томный сборник; десятитомный сборник.
К сожалению, такого раздела у нас нет. Но такие предлоги с детальными указаниями Вы найдете в "Кратком словаре трудностей русского языка" Н. А. Еськовой (М., 2008).
Запятая не нужна.