М. Фасмер пишет, что всадник, скорее всего, славянское новообразование от садить.
Верно: всадник Апокалипсиса, третий всадник Апокалипсиса.
По всей видимости, дело в дифференцирующем написании: «Медный всадник» (в кавычках) – название поэмы А. С. Пушкина, Медный всадник (без кавычек) – сам памятник. Ведь такое название за памятником закрепилось именно благодаря Пушкину.
Оборот с союзом "словно" обособлять не нужно, поскольку он входит в состав сказуемого: Сказал и словно испарился, Немало всадник подивился...
Общее правило таково: в названиях архитектурных и других памятников, предметов и произведений искусства с прописной буквы пишутся первое слово и собственные имена, например: Грановитая палата, Медный всадник, Колосс Родосский, Янтарная комната, Зимний дворец, Дворец дожей.
Однако начальное родовое наименование в подобных названиях архитектурных и др. памятников, произведений искусства пишется со строчной буквы. Правильно: собор Сан-Марко, мост Вздохов (в Венеции), мост Конфедерации (между Канадой и островом Принца Эдуарда). Аналогично следует писать и такие названия, как лестница Гигантов, лестница Рыцарей, зал Цветов, двор Девушек.