Корректно: со всей России, по всей России.

Правильно: Союз машиностроителей России.

Формальных ограничений на склонение нет, ср. Минздрав — в Минздраве, Минюст — к Минюсту. В неофициальной речи могут склоняться и названия Минрегион, Минкрым, Минкавказ, однако в официальной речи нужно использовать не сокращенные, а полные названия этих министерств. 

В словаре В. В. Лопатина, И. В. Нечаевой, Л. К. Чельцовой «Прописная или строчная?» (М., 2011) зафиксировано: Северо-Западный регион, Северо-Запад РФ (в знач. Северо-Западный регион).

Отметим, что, если речь идет не о регионе, а о направлении, о части страны, расположенной в этом направлении, корректно написание строчными: Объездил всю страну, но больше всего любит путешествовать на северо-запад России. На северо-западе России много красивых озер и лесов.