Слова автора начинаются со строчной буквы:

– А я знаю?! – от собственной беспомощности участковый готов был заплакать.

– Это как же? – сестер начало мелко трясти.

Корректно: Валентина достала свёрток, положила его на сиденье, села перед ним на пол по-турецки, отчего брюки издали громкое «крак», развернула свёрток.

Действительно, существует особая группа территорий, представление о которых включает исторический, политический, этнический, культурный, эстетический и пр. компонент, в отличие от собственно географических (природных) территорий, названия которых не содержат никаких дополнительных коннотаций. Например, Балтия — это не территория вокруг Балтийского моря, а Латвия, Литва и Эстония, связанные с Россией общей историей; под Восточной Европой понимают не просто часть европейского континента, а часть, населенную преимущественно славянскими народами. Север — полярные и приполярные территории, Арктика. Но сочетание Юг России в написании с заглавной буквы закрепилось в русском культурном фонде как название территории, подконтрольной белогвардейцам в 1918–1920 гг., ср.: Вооруженные силы Юга России — объединенные вооруженные силы Белого движения, образованные 8 января 1919 г. в результате соглашения между командующим Добровольческой армией А. И. Деникиным и атаманом Донского казачьего войска П. Н. Красновым. Только в таком значении и следует писать с заглавной буквы Юг России.

Эта рекомендация, приведенная в справочнике Д. Э. Розенталя, устарела, она не соответствует современной норме письма. Несколько лет назад в Институте русского языка им. В. В. Виноградова РАН была подготовлена новая редакция правил употребления прописных и строчных букв, отвечающая орфографической практике конца XX – начала XXI века и одобренная Орфографической комиссией при Отделении историко-филологических наук РАН. Эти правила приведены в полном академическом справочнике «Правила русской орфографии и пунктуации» под ред. В. В. Лопатина, в орфографическом словаре В. В. Лопатина, И. В. Нечаевой, Л. К. Чельцовой «Прописная или строчная?». Согласно этим правилам, в названиях улиц, площадей, бульваров и т. п. с прописной буквы пишутся все слова, кроме родовых терминов (самих слов улица, площадь, переулок, проспект, бульвар и т. п.), а также слов года, лет. Таким образом, правильно: улица Каретный Ряд, улица Кузнецкий Мост, улица Борисовские Пруды, площадь Никитские Ворота.

Отметим также, что в некоторых более поздних изданиях справочника Д. Э. Розенталя (вышедших в свет уже после смерти автора) тоже рекомендуется писать улица Каретный Ряд, площадь Никитские Ворота (т. е. в эти издания внесены изменения), но в некоторых изданиях еще повторяется старая рекомендация (Каретный ряд).

Правило звучит так: в составных названиях важнейших документов и сборников документов, государственных законов, а также архитектурных и других памятников, предметов и произведений искусства с прописной буквы пишется первое слово и собственные имена. Но при этом начальное родовое наименование в подобных названиях архитектурных и других памятников, произведений искусства пишется со строчной буквы. Ср.: дворец Белосельских-Белозерских (дворец — родовое слово), но Дворец конгрессов, Дворец наций (Дворец — первое слово названия). Сложность как раз в том, чтобы определить границы имени собственного, не всегда это можно сделать легко и последовательно.

В приведенных Вами примерах корректно: палаццо Колонна, дворец Александра III в Массандре (ср.: Массандровский дворец), Арсенальная комната Царскосельского дворца (может, использовать современное название — Екатерининского?), парадная анфилада Царскосельского дворца, Малый Трианон, центральный вестибюль замка Шамбор, вилла «Черный лебедь», вилла «Ротонда». 

Сложнее всего, кажется, с названием д/Дом ф/Фавна. Возможно написание дом Фавна (тем более в ряду перечисления других домов  в Помпеях), но в условиях контекста может быть уместно использовать прописную как раз в первом слове, чтобы избежать модели «дом, принадлежащий...» и подчеркнуть, что речь идет о памятнике архитектуры.

В практике письма последних двух десятилетий преодолено требование «Правил русской орфографии и пунктуации» 1956 года писать со строчной буквы многие названия, связанные с религией (такое правило в 1956 году было обусловлено идеологическими причинами). Сейчас слова Бог, Господь, Богородица и т. п. рекомендуется писать с большой буквы. При этом дело не в религиозной позиции пишущего (она может быть любой), а в том, что слова Бог, Господь, Богородица, Аллах и т. п. – индивидуальные названия, являющиеся фактически собственными именами.

Итак, сейчас во всех текстах (религиозных и нерелигиозных) рекомендуется писать: Бог, если имеется в виду единое верховное существо в монотеистических религиях. В формах множественного числа, а также в значении одного из множества богов или в переносном значении слово бог пишется со строчной: боги Олимпа, бог Аполлон, бог войны.

C прописной буквы рекомендуется писать и прилагательные, образованные от слова Бог: Божий, Божественный. В переносном значении употребляется только строчная буква: божественный вкус, бабушка божий одуванчик.

В устойчивых сочетаниях, употребляющихся в разговорной речи вне прямой связи с религией следует писать слово бог (а также господь) только со строчной буквы. Вне зависимости от религиозной позиции пишущего ошибкой будет написание ей-Богу. Также невозможна прописная буква в таком контексте: у него все не слава богу.

1. В справочниках не сформулировано правило о том, с какой буквы должна начинаться прямая речь, если она включается в текст как член предложения. Примеры приводятся разные, в частности: Это «не хочу» поразило Антона Прокофьевича; Он вспомнил пословицу «За двумя зайцами погонишься — ни одного не поймаешь» и отказался от первоначального плана; С криком «Спасайте детей!» юноша бросился в горящее здание (примечание к параграфу 50 справочника по пунктуации Д. Э. Розенталя). Вопрос остается, видимо, на усмотрение автора текста. Добавим лишь, что если с помощью знака конца предложения (восклицательного, вопросительного знака, многоточия) передается интонация прямой речи, то естественно было бы начать ее с прописной буквы, чтобы представить как законченное предложение: Братья разворачиваются и уходят, и вслед им летит громогласное «Не смейте оставлять нас здесь!». Что касается двоеточия, то оно здесь совершенно точно не нужно.

2. Слово прощай может быть представлено и как нечленимое предложение, сказанное с определенной интонацией, и как слово, поэтому корректны разные варианты его оформления.

3. После тире ставится именно точка, потому что авторские слова, стоящие после прямой речи, представляют собой отдельное предложение. См. подробнее ответ на вопрос № 325744.

Правилен второй вариант. Опереться можно на примеры в правиле о подлинных выражениях, вставленных в текст. Подлинные выражения, представляющие собой законченные предложения, начинаются с прописной буквы. 

«Подлинные выражения, вставленные в текст в качестве элементов предложения, выделяются кавычками, но двоеточие перед ними не ставится: Это «не хочу» поразило Антона Прокофьевича (Г.); Предположение дневального, что «взводный нажрался и дрыхнет где-то в избе», всё больше собирало сторонников (Ф.); Он вспомнил пословицу «За двумя зайцами погонишься — ни одного не поймаешь» и отказался от первоначального плана; С криком «Спасайте детей!» юноша бросился в горящее здание» (Розенталь Д. Э. Справочник по пунктуации для работников печати. М., 1984).

.«...Если прямая речь непосредственно включается в авторское предложение в качестве его члена, то она заключается в кавычки, знаки же препинания ставятся по условиям авторского предложения: Сказав Гричмару фразу «Легкой жизни не бывает, есть лишь легкая смерть», Крымов поймал на себе беспокойный, предупреждающий взгляд Стишова (Бонд.) (Правила русской орфографии и пунктуации. Полный академический справочник / Под ред. В. В. Лопатина. М., 2006)».

Обратите внимание: в конце предложения нужно поставить точку. 

Однажды я застал забавный диалог, один из участников которого задавался вопросом «Почему в нашем мире нет магии?». 

Возможен и другой вариант.

Однажды я застал забавный диалог, один из участников которого задавался вопросом: «Почему в нашем мире нет магии?»