Оба варианта верны.

Различие между этими терминами можно увидеть, обратившись, например, к энциклопедии «Русский язык» (статьи «Фразеологизм», «Пословица», «Поговорка» написаны А. Н. Барановым и Д. О. Добровольским).

Фразеологизм — общее название для устойчивых словосочетаний или предложений, обладающих семантической или синтаксической нерегулярностью и имеющих смысл, не выводимый из смысла составляющих их слов. К фразеологизмам относят идиомы, коллокации, пословицы, поговорки; выделяется также разряд крылатых слов.

Пословица — фразеологизм со структурой предложения, имеющий в своем значении идею всеобщности, выражающий рекомендацию (совет, нравоучение или запрет) или объясняющий обсуждаемое положение дел.

Поговорка тоже имеет структуру предложения и часто осмысляется как в чём-то «ущербная» пословица.  Пословицы обладают большей речевой самостоятельностью и большей независимостью от ситуации и контекста, чем поговорки. Например, пословица Цыплят по осени считают уместна в любой ситуации, где говорящий считает себя вправе давать совет, ср. поговорку старость не радость, которая представляет собой реакцию на какие-то физические или умственные затруднения, связанные с возрастом одного из участников ситуации общения.

Согласно официально действующим сейчас «Правилам русской орфографии и пунктуации» 1956 года, между определяемым словом и стоящим перед ним однословным приложением, которое может быть приравнено по значению к прилагательному, дефис не пишется: красавица зима (=красивая зима), старик отец (=старый отец), бедняк сапожник (=бедный сапожник). Такое написание предлагается и в справочниках Д. Э. Розенталя, которые полностью опираются на действующие правила. Этим правилом, очевидно, руководствовались редакторы и корректоры, готовившие издания Ф. М. Достоевского.

Однако теперь рекомендации лингвистов изменились. В «Русском орфографическом словаре» РАН (4-е изд., М., 2012) и полном академическом справочнике «Правила русской орфографии и пунктуации» (М., 2006), которые подготовлены сотрудниками Института русского языка им. В. В. Виноградова РАН, предлагается дефисное написание подобных сочетаний: старик-отец, красавица-дочка. Такое написание, хотя и вступает в противоречие с действующими правилами, тем не менее соответствует современной практике письма и более последовательно и логично отражает применение дефиса при написании сочетаний существительных.

Таким образом, сейчас предпочтительно дефисное написание. Но раздельное написание не ошибка (формально оно соответствует правилам).

Все просто: на взморье, на пограничье. В предложном падеже на -И оканчиваются только те существительные мужского и среднего рода с неодносложной основой, которые в им. п. оканчиваются на -ИЕ, ИЙ: о сидении, о гении (но: на сиденье). Исключение: в забытьи (с ударным И).