Написание с прописной нарицательных существительных, используемых не в своем обычном значении, потерявших свое прямое значение, регламентировано для имен собственных — имен людей (Ричард Львиное Сердце) и составных географических названий (Кузнецкий Мост, Ясная Поляна). Написание Радужные Столбы соответствовало бы правилу, если бы это сочетание было прозвищем или географическим названием, например: Иван Радужные Столбы, поселок Радужные Столбы.
Вряд ли целесообразно настолько расширять функции прописной буквы, чтобы использовать ее для выделения самых разных наименований, где слово используется не в своем прямом значении. В одних случаях достаточно одной прописной в начале названия, в других — использования кавычек или других выделительных средств (например, курсива).
Запятая не нужна.
Да, такая фамилия склоняется: Катеринки, Катеринке, Катеринку, Катеринкой, о Катеринке.
Согласно орфографическим правилам корректно написание с прописной буквы только первого слова наименования: "Сердце столицы".
Запятая обязательна.
На этот вопрос у нас нет ответа. Сочетание идти умываться активно используется, и запретов на его употребление нет. Ср.:
Кроме приготовления одежд для дня и покрывала для ночи есть еще одежда и обувь для времени одеванья, халаты, туфли, и вот человек идет умываться, чиститься, чесаться, для чего употребляет несколько сортов щеток, мыл и большое количество воды и мыла (Толстой Л. Первая ступень).
В прихожей сразу начинает пахнуть больницей. Потом папа идет умываться. Мы следуем за ним (Кассиль Л. Кондуит и Швамбрания).
Точно так же она готовилась обедать в столовой, не брезгуя относить на кухню чужие грязные тарелки и затирать салфетками водицу пролитого супа; на своей солдатской коечке, перед тем как идти умываться, она взбивала кочкой жидкую подушку, отгибала уголок одеяла, и со временем Катерина Ивановна стала брать с нее пример (Славникова О. Стрекоза, увеличенная до размеров собаки).
Точка нужна, она относится ко всему предложению (а восклицательный знак – к названию в кавычках).