Запятая не нужна. 

Верны оба варианта.

К сожалению, правила недостаточно четко регламентируют данную ситуацию. При прямой речи, стоящей после слов автора и заканчивающейся вопросительным знаком, восклицательным или многоточием, точка не ставится (см. оформление примеров в § 196 Правил 1956 года). Однако Ваш пример ближе к предложениям, в которых при разных знаках внутри кавычек и в конце всего предложения, знак конца предложения все же ставится. Приведем правило из Полного академического справочника под ред. В. В. Лопатина (§ 159): «если перед закрывающей кавычкой стоит знак вопросительный, восклицательный или многоточие (и на этом предложение заканчивается), то те же знаки, необходимые по условиям всего предложения, не повторяются после закрывающей кавычки; неодинаковые знаки (перед кавычкой и после кавычки) ставятся». Ср. примеры: 

     Вы читали роман «Кто виноват?»

       Неужели вы не прочитали роман «Что делать?»!

Оба варианта неудачны. Предлагаем такую формулировку: Мемориальная доска на здании музея свидетельствует о том, что он является объектом культурного наследия.

Правильно: заведующий муниципальным дошкольным образовательным учреждением «Детский сад № 5 "Калинка"»;  заведующему муниципальным дошкольным образовательным учреждением «Детский сад № 5 "Калинка"».

Ошибок нет, запятые ставить не нужно.

В слове завалинка -ин-, -к- – суффиксы. Гласную в суффиксе -ин- нельзя проверить, подобрав однокоренное к завалинка слово.