Ответы справочной службы
Правило звучит так (см., напр., словарь В. В. Лопатина, И. В. Нечаевой, Л. К. Чельцовой «Прописная или строчная?»): слова, обозначающие участки течения рек, пишутся со строчной буквы, если не входят в состав сложных собственных названий, напр.: верхняя Припять, нижняя Березина, но: Верхняя Тура, Нижняя Тунгуска (названия рек), Верхний Рейн (название департамента во Франции), Средняя Ахтуба (поселок).
Но при этом словари (в т. ч. упомянутый словарь) фиксируют написание Верхняя Волга, Средняя Волга, Нижняя Волга. Можно предположить, что такое написание обусловлено многолетней традицией употребления.