По всей видимости, дело в дифференцирующем написании: «Медный всадник» (в кавычках) – название поэмы А. С. Пушкина, Медный всадник (без кавычек) – сам памятник. Ведь такое название за памятником закрепилось именно благодаря Пушкину.

Да, запятую надо ставить: Мне интересно, почему они белые. Мне любопытно, почему он ушел.

Не спеша может выступать в зависимости от контекста и наречием, и деепричастием. Как деепричастие не спеша пишется раздельно согласно правилу раздельного написания НЕ с деепричастиями. Написание не спеша как наречия проверяется в словарном порядке. Среди наречий есть значительное количество единиц, традиционное раздельное написание которых не соответствует частным правилам написания наречий.

В этом сочетании не нарушены никакие нормы русского литературного языка. Подобный оборот можно встретить в текстах Ф. Достоевского, В. Катаева, А. Сахарова и др. Ср.: Мне казалось, что мысль о подорожной и лошадях (хотя бы и с колокольчиком) должна была представляться ему слишком простою и прозаичною; напротив, пилигримство, хотя бы и с зонтиком, гораздо более красивым и мстительно-любовным (Ф. Достоевский. Бесы); Его раздражал их дешевый цинизм, дешевый потому, что зубоскалить было легче легкого, он умел это получше их, однако жизнь, он убедился, гораздо более сложный процесс; сначала ее воспринимаешь по законам арифметики, а потом… (Д. Гранин. Иду на грозу).

Написание слова стремянный прокомментировано в информационно-поисковой системе «Орфографическое комментирование русского словаря». Чтобы в словарной статье открылось правило, кликните мышкой номер параграфа. 

Пишется одно н, так как это бесприставочное прилагательное, образованное от глагола несовершенного вида не -овать(-евать) — бесить. 

Здесь можно провести аналогию с мужскими отчествами на -ИЧ: Ильич, Кузьмич, Лукич... Но написание все же следует запомнить.

Слова и не один являются присоединительной конструкцией. Такие конструкции обособляются.