В этом случае оба топонима не склоняются: по рекам Волга и Енисей; между озёрами Белое и Байкал; в городах Москва и Химки.

Употребление буквы ё в официально-деловых документах, научных работах и текстах иного рода не обязательно, но и не запрещено.

Согласно изданным в 1956 г. «Правилам русской орфографии и пунктуации» ё обязательна для употребления лишь в следующих случаях: 1. Когда необходимо предупредить неверное чтение и понимание слова, напр.: узнаём в отличие от узнаем, всё в отличие от все; совершённый (причастие) в отличие от совершенный (прилагательное) и т. д. 2. Когда надо указать произношение малоизвестного слова, напр.: река Олёкма. 3. В специальных текстах: букварях, школьных учебниках русского языка, учебниках орфоэпии и т. п., а также в словарях для указания места ударения и правильного произношения.

В новой редакции «Правил русской орфографии и пунктуации» (2006) было добавлено, что рекомендуется употреблять букву ё для указания правильного произношения слова — либо редкого, недостаточно хорошо известного, либо имеющего распространенное неправильное произношение, например: сёрфинг, флёр, щёлочка, в том числе и для указания правильного ударения, например: побасёнка, осуждённый, новорождённый; а также в собственных именах — фамилиях, географических названиях, например: Конёнков, Неёлова, Катрин Денёв, Дежнёв. При этом по желанию автора или редактора любая книга может быть напечатана последовательно с буквой ё.

Употребление буквы ё в современных текстах может быть последовательным и выборочным. Последовательное употребление обязательно в следующих разновидностях печатных текстов: а) в текстах с последовательно поставленными знаками ударения (к ним относятся в том числе заголовочные слова в словарях и энциклопедиях); б) в книгах, адресованных детям младшего возраста; в) в учебных текстах для школьников младших классов и иностранцев, изучающих русский язык. Кроме того, по желанию автора или редактора любая книга может быть напечатана последовательно с буквой ё.

В обычных печатных текстах буква ё употребляется выборочно. Рекомендуется употреблять ее в следующих случаях: 1) для предупреждения неправильного опознания слова, напр.: всё, нёбо, лётом, совершённый (в отличие соответственно от слов все, небо, летом, совершенный), в том числе для указания на место ударения в слове, напр.: вёдро, узнаём (в отличие от ведро́, узна́ем); 2) для указания правильного произношения слова – либо редкого, недостаточно хорошо известного, либо имеющего распространенное неправильное произношение, напр.: гёзы, сёрфинг, флёр, твёрже, щёлочка, в том числе для указания правильного ударения, напр.: побасёнка, приведённый, унесённый, осуждённый, новорождённый, филёр; 3) в собственных именах – фамилиях, географических названиях, напр.: Конёнков, Неёлова, Катрин Денёв, Шрёдингер, Дежнёв, Кошелёв, Чебышёв, Вёшенская, Олёкма.

См.: Правила русской орфографии и пунктуации. Полный академический справочник / Под ред. В. В. Лопатина. М., 2006.

В словарях русского языка название этого растения не зафиксировано, в «Русском орфографическом словаре» Российской академии наук (М., 2012) закреплена только первая часть: саган, -а (растение). Чтобы ответить на Ваш вопрос, мы обратились за консультацией к проф. Иркутского государственного университета Л. И. Горбуновой, которая для нас собрала информацию об этом интересном слове.

Буряты считают, что это название бурятское, хотя есть версия, что оно могло попасть в бурятский язык из тибетского. Каковы бы ни были его корни, в русский оно вошло через бурятский.

Буквальный перевод названия – 'белое крыло'. Первая часть означает 'белый'. Такой же корень есть в широко распространенном и активно используемом в Бурятии слове Сагалган. Это национальный праздник Белого месяца. Третий звук в слове саган в бурятском языке звонкий фрикативный (как в форме Господи), по-русски он передается буквой г. Второй звук а – долгий, у бурят он обозначается удвоенной буквой а, но в русской орфографии эта долгота не отражается, пишется одинарная а.

Вторая часть названия означает 'крыло'. В русском языке ее передают как дайля или дали. Однако буряты утверждают, что в их языке нет звука й и ближе к их произношению второй вариант – дали, с ударением на втором слоге.

Бурятские слова подобной структуры в русском языке кодифицируются и в дефисном написании, и в слитном. Например, в словаре С. А. Гурулева «Географические названия Иркутской области. Топонимический словарь» (Иркутск, 2015) зафиксированы Шара-Жалга (левый приток реки Большой Задой; букв. 'желтый берег') и Харагун (название деревни; букв. 'черная глубина'). Но в практике письма чаще встречается дефисное написание.

В Бурятии в разговорной речи название обычно склоняют. Но в нейтральном и книжных стилях такое малоизвестное слово лучше по падежам не изменять. 

На этот вопрос в справочной литературе можно найти противоположные ответы. В «Справочнике по правописанию, произношению, литературному редактированию» Д. Э. Розенталя, Е. В. Джанджаковой, Н. П. Кабановой указано, что названия рек согласуются с родовым наименованием, и приведен пример между реками Обью и Енисеем. В то же время другие пособия указывают, что с географическим термином река наблюдается тенденция склонять названия женского рода и не склонять названия мужского рода: у реки Волги, но на реке Енисей.

На практике встречается как склонение, так и несклонение названий рек в подобных конструкциях, ср.: 

• Пространство между реками Доном и Непрядвой называлось Куликовым полем. С. Голицын. Сказания о земле Московской (1968-1988)
• Трудно было пробираться речными путями на Пясину, поэтому решили установить морскую связь между реками Енисей и Пясина. М. Белов. Мангазея (1969) 
• Пять тысяч лет назад такими «умными соседями» оказались жители двух речных долин — на Ниле (Египет) и между реками Тигр и Евфрат (Месопотамия). А. Алексеев. Из жизни древнего Египта // «Наука и жизнь», 2007

• Между реками Енисеем и Хатангой (в так называемом Енисей-Хатангском региональном прогибе) открыты газовые залежи, и специалисты прогнозируют наличие здесь нефти. Е. Сидорова. Притяжение Арктики // «Наука в России», 2012.

Таким образом, допустимы варианты, и окончательное решение в подобной ситуации — за автором (редактором) текста. Ошибки в любом случае не будет.

Столица Урала, янтарная столица — это образные описательные выражения. Они не стали неофициальными названиями, не фиксируются в таком качестве словарями, в текстах устойчиво пишутся со строчной буквы.

Возможно, осмыслению сочетания столица Урала как названия препятствует структура — «столица чего» (ср. столица России, столица Белоруссии, столица Кузбасса, столица Калининградской области). Слово столица воспринимается исключительно как родовое.

Сочетания прилагательного со словом столица похожи на типичные географические названия с родовым словом (Московская область, Белое море, Приморский край, Васильевский остров), что располагает к их использованию как названий. Сочетание Северная столица давно закрепилось в таком качестве и отмечено словарями, Уральская столица употребляется реже, но вполне корректно, например в названии статьи «В Уральской столице презентовали новую книгу об императоре Николае II» [Vesti.ru, 20.07.2016].

Сочетание янтарная столица, по данным Национального корпуса русского языка, менее употребительно, чем столица Урала или уральская (Уральская) столица, и обычно вводится в текст не как название, а как характеризующий оборот, например:

Это правда, что вы хотите переселить в Россию 15 тыс. специалистов-янтарщиков из Польши и Литвы и таким образом в перспективе сделать Калининград янтарной столицей мира? [Елизавета Маетная. «Янтарный комбинат превратился в бизнес: «выкопай и продай посреднику» // Известия, 29.05.2012];

Я был в Доминиканской республике трижды, и сам искал эти камни и находил, и конечно это удовольствие подарить такой камень, так как Калининград — это янтарная столица мира, и естественно, здесь должен быть такой камень тоже [Музей янтаря получил подарок с острова Гаити // Vesti.ru, 03.03.2009].

Интересно, что сочетание Янтарный край вполне может претендовать на фиксацию в качестве неофициального названия: оно стало устойчивым обозначением Калининградской области в современных текстах.

Если название города на протяжении нескольких десятилетий свободно склонялось, значит этот топоним можно смело отнести к числу названий, «давно заимствованных и освоенных русским языком», и, следовательно, склонять. Вы правы: рекомендация не склонять иноязычные названия на согласный касается (за редким исключением) иностранных топонимов. Варианты на реке Белая, на улице Советская тоже нельзя считать нормой литературного языка, это, скорее, типично канцелярское употребление.

Название улицы Борисовские Пруды добавили в «Словарь улиц Москвы». Спасибо за дополнение!

Рекомендация, приведенная в справочнике Д. Э. Розенталя, не соответствует современной норме письма. Во-первых, сама рекомендация более чем странная: Нарицательные существительные в составных географических названиях пишутся с прописной буквы, если они употреблены не в прямом значении и называют объект условно, например: Белая Церковь (город), Красная Поляна (город) ... Кузнецкий мост, Земляной вал (улицы), Никитские ворота (площадь)... Примеры противоречат правилу! Ведь Кузнецкий мост  – не мост, а улица, Никитские ворота – не ворота, а площадь, т. е. нарицательные существительные употреблены не в прямом значении, почему в таком случае они пишутся со строчной?

Во-вторых, не так давно в Институте русского языка им. В. В. Виноградова РАН была подготовлена новая редакция правил употребления прописных и строчных букв, отвечающая орфографической практике конца XX – начала XXI века и одобренная Орфографической комиссией при Отделении историко-филологических наук РАН. Эти правила приведены и в полном академическом справочнике «Правила русской орфографии и пунктуации» под ред. В. В. Лопатина, и в орфографическом словаре В. В. Лопатина, И. В. Нечаевой, Л. К. Чельцовой «Прописная или строчная?». Согласно этим правилам, в названиях улиц, площадей, бульваров и т. п. с прописной буквы пишутся все слова, кроме родовых терминов (самих слов улица, площадь, переулок, проспект, бульвар и т. п.), а также слов года, лет. Таким образом, правильно: улица Коровий Вал, улица Кузнецкий Мост, улица Борисовские Пруды, площадь Никитские Ворота.

Правило гласит:

Употребление буквы ё может быть последовательным и выборочным.

Последовательное употребление буквы ё обязательно в следующих разновидностях печатных текстов:

а) в текстах с последовательно поставленными знаками ударения ;

б) в книгах, адресованных детям младшего возраста;

в) в учебных текстах для школьников младших классов и иностранцев, изучающих русский язык.

В обычных печатных текстах буква ё употребляется выборочно. Рекомендуется употреблять ее в следующих случаях.

1. Для предупреждения неправильного опознания слова, напр.: всё, нёбо, лётом, совершённый (в отличие соответственно от слов все, небо, летом, совершенный), в том числе для указания на место ударения в слове, напр.: вёдро, узнаём (в отличие от ведро́, узна́ем).

2. Для указания правильного произношения слова – либо редкого, недостаточно хорошо известного, либо имеющего распространенное неправильное произношение, напр.: гёзы, сёрфинг, флёр, твёрже, щёлочка, в том числе для указания правильного ударения, напр.: побасёнка, приведённый, унесённый, осуждённый, новорождённый, филёр.

3. В собственных именах – фамилиях, географических названиях, напр.: Конёнков, Неёлова, Катрин Денёв, Шрёдингер, Дежнёв, Кошелёв, Чебышёв, Вёшенская, Олёкма.