Здесь действительно нужно поставить закрывающую запятую, только не после причастного оборота, а после определительного придаточного с союзным словом который. Для оптимизации пунктуационного оформления высказывания рекомендуем заключить вставную конструкцию в скобки, а не в двойные тире: ...монастырь, на настоятеля которого он возлагал столько надежд (и небезосновательно, отнюдь не безосновательно!), разграблен и сожжён викингами, настоятель убит.

Верно раздельное написание: слово отнюдь усиливает отрицание.

Словарная фиксация: в Клину (см. «Словарь собственных имен русского языка» Ф. Л. Агеенко). При этом вариант в Клине отнюдь не нов: его можно встретить у В. И. Даля (1839 г.) и даже в документах М. И. Кутузова (1812 г.): Предписание М. И. Кутузова вновь формируемому в Клине 10-му пехотному полку № 76. 29 августа 1812 года. С получения сего без ночлегов, но только с варением каш и отдыхами, предписываю оному полку, немедленно выступя, прибыть в Москву. Справедливости ради следует заметить, что других примеров такого употребления в Национальном корпусе русского языка не зафиксировано. 

Возможно, на распространенность варианта в Клине влияет гиперкоррекция (когда стремление говорить правильно приводит к появлению ошибочных форм): вариант в Клину может казаться говорящему менее правильным (как разговорное в отпуску при предпочтительном в отпуске). Тем не менее именно употребление в Клину соответствует строгой литературной норме.

Отнюдь не все. Ср.: Этот дом небольшой — Этот дом не каменный. 

Не пишется раздельно, потому что в данном случае отрицается понятие, а не создается новое. Мы легко можем подставить слова, усиливающие отрицание: отнюдь не голодна, вовсе не голодна, но совершенно неестественной была бы подстановка слов, подчеркивающих утверждение (очень, крайне, весьма, чрезвычайно, в высшей степени и др.): *она в высшей степени неголодна (?) Это говорит о том, что перед нами отрицание признака, поэтому нужно писать раздельно.

См. правило:

Несогласованные определения, выраженные формами косвенных падежей существительных (чаще с предлогами), обособляются для выделения какого-либо признака или для усиления выражаемого ими значения: Холоп, в блестящем убранстве, с откидными назад рукавами, разносил тут же разные напитки и съестное (Г.); Офицеры, в новых сюртуках, белых перчатках и блестящих эполетах, щеголяли по улицам и бульвару (Л. Т.); Плескалось и шуршало море, всё в белых кружевах стружек (М. Г.); В белом галстуке, в щегольском пальто нараспашку, с вереницей звёздочек и крестиков на золотой цепочке в петле фрака, генерал возвращался с обеда, один (Т.); У многих русских рек, наподобие Волги, один берег горный, другой луговой (Т.).

Обычно обособляются несогласованные определения, дополняющие или уточняющие представление о лице либо предмете, который сам по себе (без определения) достаточно конкретен, уже известен. 

В приведенном Вам предложении обособление несогласованного определения с загнутым на спину хвостом отнюдь не обязательно. Пунктуационное выделение придает ему смысл дополнительного сообщения: По наружности это — обыкновенная дворняга, но (при этом) с загнутым на спину хвостом...

Наречия совсем и вовсе действительно могут подчеркивать как утверждение, так и отрицание, поэтому их наличие не является показателем слитного или раздельного написания. Ср. Это вовсе/совсем неинтересная книга (= абсолютно неинтересная) — Это вовсе/совсем не интересная книга (= отнюдь не интересная). 

Глагол СВ в данном примере имеет конкретно-фактическое значение. Соответственно, подразумевается отрицание конкретного единичного факта (Разве я это сказал?).

Глагол НСВ в этом же примере имеет общефактическое значение. Соответственно, отрицается вообще то, что когда бы то ни было имел место подобный факт (Разве я это говорил?). Это отнюдь не риторический вопрос, но он может использоваться как средство усиления: говорящему требуется опровергнуть конкретный единичный факт, но он использует средство, отрицающее подобный факт вне привязки к какой-либо конкретной ситуации. Такое усиление происходит часто, поэтому вариант (2) и встречается значительно чаще, чем (1).

Это отнюдь не равноценная замена. В вашем предложении сказуемое — выбежали.

Горький использовал инфинитив НСВ прежде всего потому, что речь идет о сложном действии, состоящем из целого ряда мелких действий и занимающем относительно продолжительное время. Смысл вопроса не в том, сто́ит или не сто́ит осуществить действие, а в том, пора или не пора его начинать. Если бы речь шла, скажем, о том, чтобы подать только что принесенную вечернюю газету, был бы использован глагол СВ.

Вызывает удивление то, что вы пользуетесь пособием для иностранцев (где объясняют азы употребления видов русского глагола), пытаясь объяснить употребление вида в русской классике, где встречаются отнюдь не только простейшие ситуации использования видов. Есть намного более серьезные и рассчитанные не на иностранцев книги. О конкуренции видов можно почитать работы А. В. Бондарко, Н. С. Авиловой, М. А. Шелякина, Е. В. Петрухиной, О. П. Рассудовой и мн. др.