Да, пробел ставится: г. Москва, ул. Ванеева. Пробел – признак нового слова.
Кавычки не нужны, между географическими названиями следует поставить тире: Москва – Киев.
Красивая Москва.
Несклонение первой части (по Москва-реке) допустимо в разговорной речи, однако строгой литературной норме соответствует вариант по Москве-реке.
Возможны варианты: «Магазин «Москва», «Магазин "Москва"».
Необходимо тире с пробелами: Москва – Санкт-Петербург.