По всей видимости, дело в дифференцирующем написании: «Медный всадник» (в кавычках) – название поэмы А. С. Пушкина, Медный всадник (без кавычек) – сам памятник. Ведь такое название за памятником закрепилось именно благодаря Пушкину.

Корректно: хочу увидеть Медного всадника, чижика-пыжика.

Общее правило таково: в названиях архитектурных и других памятников, предметов и произведений искусства с прописной буквы пишутся первое слово и собственные имена, например: Грановитая палата, Медный всадник, Колосс Родосский, Янтарная комната, Зимний дворец, Дворец дожей.

Однако начальное родовое наименование в подобных названиях архитектурных и др. памятников, произведений искусства пишется со строчной буквы. Правильно: собор Сан-Марко, мост Вздохов (в Венеции), мост Конфедерации (между Канадой и островом Принца Эдуарда). Аналогично следует писать и такие названия, как лестница Гигантов, лестница Рыцарей, зал Цветов, двор Девушек.