Сочетания с разными предлогами могут употребляться в разных значениях. Поскольку Китай-город — это название не только исторического района Москвы, но и станции Московского метрополитена (а с названиями станций употребляется предлог на), сочетание на Китай-городе вполне объяснимо. Значение здесь: на станции «Китай-город», на территории, прилегающей к этой станции метро. Ср., например: давай где-нибудь на Китай-городе встретимся и посидим (= где-то в районе станции метро и рядом) и в Китай-городе сохранилось несколько монастырей (= внутри исторического района; предлог в связан с представлением о замкнутом пространстве).

Да, имеет. Рекомендуем для чтения статью Наталии Муравьевой «Миф об ошибке: к вопросу о нормативности сочетания самый лучший» в «Вестнике РГГУ».

Существительное чертог употребляется в высоком стиле и имеет значение "пышное великолепное помещение; роскошное здание или дворец". Это значение нельзя назвать положительным или отрицательным. Однако нельзя не согласиться с Вами в том, что в толкование этого слова стоило бы добавить и более широкое значение "вместилище": Эти чертоги страданій и смерти [А. П. Башуцкій. Гробовой мастеръ (1841)]; Жизни, преображающей чертоги пыток в чертоги таинственных, сладостных утех [Ф. К. Сологуб. Королева Ортруда (1909)]; Любить жену — чертог разврата, Любить изменницу свою… [Кладбищенская литература (от нашего астраханского корреспондента) (19.04.1912) // «Русское слово», 1912]; ...он пятился в приветливый чертог гардероба дальше и дальше от старика [Александр Снегирев. Зимние праздники // «Знамя», 2012] и т. п. Именно таково было первоначальное значение заимствования чертог в русском языке. 

Сочетания типа по теореме X являются скорее обстоятельством причины (≈ «поскольку такова теорема Х»), нежели ссылкой на источник информации; теорема может быть приведена в разных источниках, созданных разными авторами. Конструкции вроде по словам учёных или по расчётам кого-то заключают в себе субъективность, то есть высказывание основано на мнении, данных или расчётах, которые могут быть подвержены изменению интерпретации или оценке. Такая субъективность характерна для вводных конструкций. 

При этом сочетания типа по теореме Х могут быть выделены запятыми, как и любые другие обстоятельства, для попутного пояснения или смыслового выделения. 

В этой разговорной конструкции уместно поставить тире (см. ответ на вопрос 301804) либо, как вариант, запятую. О характере сочетания я сказал в подобных контекстах см. ответ на вопрос 312745.

Верно: на южном ходу железной дороги.

В профессиональном языке железнодорожников и в текстах СМИ соответствующей тематики действительно используется термин ход, который обозначает определенные направления, маршруты или линии в железнодорожной сети, например южный ход Транссибирской магистрали. В предложном падеже в профессиональной среде принято использовать форму на южном ходу.