Правильно, как Вы верно указываете, на берегу. В русском языке есть несколько существительных второго склонения с таким окончанием в предложном падеже со значением места. Ср.: о береге - на берегу, о носе - в носу, о саде - в саду. Падеж один и тот же, окончания (в зависимости от значения падежа) - разные.

Первая часть предложения не является устойчивым выражением, это придаточная часть. Отделить ее можно запятой, но в данном случае возможно и тире. 

Глагол довлеть произошел от унаследованного русским литературным языком старославянского глагола довлети, означавшего 'быть достаточным, хватать'. В первоначальном значении этот глагол употребляется в евангельском выражении довлеет дневи злоба его, переводимом 'хватает на каждый день своей заботы, довольно для каждого дня своей заботы' (отсюда и устойчивое сочетание злоба дня – повседневная забота, нужда данного момента, требующая немедленного удовлетворения; потом и прилагательное злободневный).

Слово довлеет встречается и в другом устойчивом выражении – довлеть самому (самой) себе, означающем 'зависеть в своем существовании и развитии только от себя', например: природа сама себе довлеет. Отсюда прилагательное самодовлеющий – 'достаточно значительный сам по себе, имеющий вполне самостоятельную ценность'.

Однако в XX веке у глагола довлеть возникло совершенно новое значение – 'тяготеть, преобладать, господствовать'. Вот как об этом пишет Л. Успенский в книге «Слово о словах»: 

«Нам, особенно не знающим древнеславянского языка, "довлеть" по звучанию напоминает "давить", "давление", - слова совсем другого корня. В результате этого чисто внешнего сходства произошла путаница. Теперь даже очень хорошие знатоки русского языка то и дело употребляют (притом и в печати) глагол "дОвлеть" вместо сочетания слов "оказывать дАвление":

"Гитлеровская Германия довлела над своими союзниками".

"Над руководителями треста довлеет одна мысль: как бы не произошло затоваривания..."

В этих случаях "довлеет" значит уже "давит", "висит", "угнетает", - все что угодно, только не "является достаточным".

По поводу этого обстоятельства в нашей прессе возникли бурные споры. Писатель Ф. Гладков опротестовал подобное понимание слова, совершенно справедливо считая его результатом прямой ошибки, неосведомленности в славянском языке. Казалось бы, он совершенно прав.

Однако посыпались возражения. Старое древнеславянское значение слова забылось, говорили многие, утвердилось новое. Какое нам дело до того, что "довлеть" значило во дни Гостомысла? Теперь оно значит другое, и смешно возражать против этого. Подобные превращения происходят в языке постоянно...»

Таким образом, новое значение глагола довлеть постепенно прижилось в русском языке. Сейчас  говорить довлеть над кем-то в значении 'господствовать, тяготеть' допустимо, употребление соответствует норме. Но управление еще испытывает колебания в стилистическом плане. Так, довлеть над кем-чем отмечено как нейтральное в "Толковом словаре русского языка" С. И. Ожегова и Н. Ю. Шведовой, но с пометой "разговорное" в "Большом толковом словаре русского языка" под редакцией С. А. Кузнецова.

Подробно об истории этого слова можно прочитать в книге: В. В. Виноградов. История слов. М., 1994.

В сочетании со словом город слово Олимпия в любом случае является приложением. Правило о склонении названий городов в сочетании со словом город распространяется не только на исконные наименования, но и на давно заимствованные и освоенные. К этой группе и можно отнести слово Олимпия. Поэтому сочетание в городе Олимпии соответствует литературной норме.

Слово наблюдение довольно часто используется с предлогами о, относительно, а также определительными оборотами (наблюдения, касающиеся...). Это вполне корректно, если наблюдение обозначает не процесс, а результат, а последующее существительное обозначает не сам предмет, а область или сферу наблюдений.

Например, в обороте …сделал тонкие наблюдения о влиянии Чехова на Пастернака (Зоя Масленикова. Близкие Бориса Пастернака) никак не получится использовать предлоги за или над, зато вполне можно сказать: сделал тонкие наблюдения, касающиеся влияния Чехова на Пастернака.

Если у Вас есть конкретное предложение, можете написать нам. Однако рискнем напомнить басню И. А. Крылова "Щука и Кот": 

    Беда, коль пироги начнет печи сапожник,
    А сапоги тачать пирожник,
    И дело не пойдет на лад.
    Да и примечено стократ,
    Что кто за ремесло чужое браться любит,
    Тот завсегда других упрямей и вздорней:
    Он лучше дело всё погубит,
    И рад скорей
    Посмешищем стать света,
    Чем у честных и знающих людей
    Спросить иль выслушать разумного совета.

Формы второго предложного падежа (местного падежа, или локатива) с окончанием -у имеют только некоторые существительные мужского рода второго склонения: о саде и в саду, о рае и в раю, о снеге и в снегу, но о сугробе и в сугробе, о сундуке и в сундуке и т. д. Но форма предложного падежа с окончанием -у для слова отпуск (в отпуску) тоже допустима, хотя не так распространена и имеет стилистические особенности (она разговорная). См. также наши ответы на вопросы № 263338 и 325842.

Верно: сообщить об ошибке.

Предложение построено верно.

Вопросительный знак на месте, верная пунктуация: Автор размышляет над следующим вопросом: «Что необходимо воспитывать в человеке с детства, с ранних лет?».