В данном сочетании слово памятник используется в значении "сохранившийся предмет прошлого". Действительно, есть определенное противоречие в употреблении данного слова в сочетании памятник природы, поскольку указанное значение, как правило, характеризует предметы культурного наследия человека (памятники старины, памятники письменности, архитектуры и т. д.). Тем не менее сочетание памятник природы используется в качестве термина, в этом смысле его употребление корректно.
К настоящему времени этот оборот получил широкое распространение, поэтому писать его следует без кавычек.
Кавычки в данном случае излишни, однако текстовые примеры принято выделять курсивом или полужирным шрифтом.
Интересный вопрос. При характеристике наречий обычно используют термин предлог-приставка. Например, Е. В. Бешенкова и О. Е. Иванова пишут об этой части так: «При переходе предложно-падежного сочетания в наречие часто сохраняется раздельное написание предлога в составе наречного сочетания. Однако первоначальный предлог теряет свой статус и приобретает качество переходного явления между предлогом и приставкой и называется предлог-приставка. Некоторые предлоги-приставки в составе наречий и наречных сочетаний всегда пишутся раздельно, к ним относятся без, для, при, про, напр.: без обиняков, без продыху, без просыпа, без разбору, без спросу, без толку, без удержу, без умолку, без устали, без утайки, без малого, без никаких, для блезиру, при смерти, при случае, при деньгах, про запас, про себя («не вслух»). Предлог-приставка до пишется слитно с наречной основой (досюда, дотуда, докуда, доднесь, доколь, дотоль...» (Бешенкова Е. В., Иванова О. Е. Правила русской орфографии с комментариями. Тамбов, 2012. С. 76).
Для описания составных предлогов такой термин неудобен, хотя начальная часть в них имеет те же свойства, что и в описанных выше наречиях. Вот, например, фрагмент из «Русской грамматика» 1980 г.: «К простым предлогам относятся все те предлоги – как первообразные, так и непервообразные, которые состоят из одного слова. К составным предлогам относятся те предлоги (всегда непервообразные), которые состоят из двух или трех слов: формы имени, деепричастия или наречия в сочетании с одним или двумя первообразными предлогами: впредь до, вдали от, в отличие от, согласно с, по отношению к, глядя по» (§ 1656).
В слове обувь корень -у-. Проблемы с корнями такого типа возникают потому, что эти корни являются связанными, то есть не употребляются без словообразовательных аффиксов. Ряд лингвистов не считает связанные корни полноценными корневыми морфемами, для них даже предложен отдельный термин — радиксоиды. Термин не является общепринятым, в словах со связанными корнями обычно выделяют просто корень на основе анализа пар типа обуть — разуть (свергнуть — отвергнуть, добавить — отбавить и т. п.).
Возможен подход, при котором в слове обувь корнем считается все слово, так как нет пары *розувь. В этом случае говорят об опрощении и считают, что этимологический корень -у- сливается с приставкой об- и с непродуктивным суффиксом -вь. Если выделять корень исключительно на основе словообразовательного анализа, в этом есть своя логика. Но если анализировать морфемный состав слова, основываясь не только на поиске производящего и производного, появится достаточно много аргументов для выделение корня -у-. Например, морфемное членение по аналогии (так мы выделим -у- в обувь, потому что есть однокоренное слово об-у-ть).
Также есть отдельная проблема соотнесения производности и членимости: давно известно, что слово может быть членимым, но это невозможно объяснить с помощью очевидных словообразовательных процессов. Одним из противоречивых случаев соотношения производности и членимости являются слова со связанными корнями. Понятие "связанности" было предложено известным российским лингвистом Г. О. Винокуром, который в качестве одного из примеров этого явления как раз и приводил слово обувь со связанным корнем -у-.
После орфографической реформы 1917 – 1918 гг., упразднившей написание Ъ на конце слов, пишущие иногда избегали и употребления разделительного Ъ, хотя оно было регламентировано правилами правописания. В практике письма получило некоторое распространение употребление апострофа в функции Ъ: с'езд, об'ём, из'ятие и т. п. Однако такое употребление апострофа никогда не соответствовало и не соответствует письменной норме.