Предпочтительно: Магазин «Апельсин» на Московском проспекте. Предлог по вносит значение распространения действия по всей территории, например: в домах по Московскому проспекту отключили горячую воду.

Предлог по в значении 'после чего-либо' употребляется с предложным падежом: по истечении срока, по окончании мероприятия. Но ср.: судить о форме этого слова надо не только по суффиксу, но и по окончанию.

В правилах 1956 года немало рекомендаций, которые были обусловлены директивными политическими ограничениями и запретами того времени. Иными словами, на орфографию влияла идеология. Сочетания гражданская война, первая мировая война, вторая мировая война предписывалось писать строчными, т. к. они якобы не являлись собственными именами. От этих запретов отказались в 1990-е. Написания Гражданская война (в России), Первая мировая война, Вторая мировая война сейчас зафиксированы в словарях русского языка (составленных, разумеется, филологами). Такое орфографическое оформление соответствует общему правилу о написании с прописной буквы первого слова в названии исторического события.

Запятая между нераспространенным согласованным и распространенным согласованным определениями нужна.

По правилам слово конноспортивный надо писать слитно (оно образовано от сочетания конный спорт). И в словарях дано слитное написание, Вы правы. Однако возникновение подобных споров доказывает правоту лингвистов, которые давно говорят, что правило о слитном/дефисном написании прилагательных на основе соотношения основ (подчинение/сочинение) не охватывает все сложные случаи и зачастую не помогает решить вопрос о написании слова. В современной письменной речи из этого правила уже очень много исключений. Еще в 1970-е годы лингвисты предлагали ориентироваться на формальный признак: если в первой части сложного слова есть суффикс прилагательного или причастия – пишем через дефис (естественно-научный), если нет такого суффикса – пишем слитно. Такому правилу соответствует написание конно-спортивный, и оно зафиксировано в словаре Б. З. Букчиной, Л. П. Калакуцкой «Слитно или раздельно?» (см., напр., 6-е изд. М., 1987).

Многие подобные написания закрепились в письменной речи и зафиксированы нормативными орфографическими словарями как исключения из действующего правила (например, естественно-научный, лечебно-физкультурный, авторско-правовой, народно-хозяйственный и мн. др.). Но при этом слово конноспортивный дается в современных словарях в слитном написании (т. е. в данном случае предлагается руководствоваться действующим правилом). См.: Русский орфографический словарь РАН / Под ред. В. В. Лопатина, О. Е. Ивановой. – 4-е изд., испр. и доп. – М., 2012.

Запятые не нужны.