Вопрос интересный. Всесторонне аргументированный и четкий ответ на него требует наблюдений над обширным текстовым материалом. Пока же отметим, что в лексическом составе и в грамматической структуре «следующей фразы» в приведенном Вами примере нет ничего, что однозначно указывало бы на определенную интонацию, а следовательно, эта интонация может быть разной, что отражается в разных знаках конца предложения.  

Придаточная часть куда ни кинется относится только к части везде стоят ворота, с которой часть нет ей другого хода, как через них связана причинно-следственными отношениями; следовательно, запятая нужна. Кроме того, нужно поставить запятую после союза но, чтобы выделить придаточную часть с двух сторон: ...но, куда ни кинется, везде стоят ворота, и нет ей другого хода, как через них.

Если название города на протяжении нескольких десятилетий свободно склонялось, значит этот топоним можно смело отнести к числу названий, «давно заимствованных и освоенных русским языком», и, следовательно, склонять. Вы правы: рекомендация не склонять иноязычные названия на согласный касается (за редким исключением) иностранных топонимов. Варианты на реке Белая, на улице Советская тоже нельзя считать нормой литературного языка, это, скорее, типично канцелярское употребление.

Определения мрачный и пустынный в общем случае характеризуют берег с разных сторон: мрачный говорит о производимом им гнетущем впечатлении, пустынный — об отсутствии на нём людей, животных, растений. Следовательно, запятая между ними не нужна. Другое дело, что второй из этих признаков тоже может производить гнетущее впечатление. Если требуется подчеркнуть это в художественном тексте, то определения можно счесть однородными и поставить между ними запятую.

В этом предложении, воспроизводящем разговорную конструкцию, пропущен глагол речи (или какой-то заменяющий его глагол), так что союз и здесь соединяет, по сути, два однородных сказуемых, а следовательно, запятая не нужна. Сравним: Иногда ты видишь по-настоящему жуткие вещи и такой говоришь (фыркаешь): «Пфф… ну что это?» Знаков после кавычек не требуется, так как внутри кавычек уже есть знак конца предложения – вопросительный.

Постановка знаков препинания при сочетании в том числе в случае, если не указано, из числа чего выделяется некто или нечто, подробно рассмотрена в ответе на вопрос 311098. Добавим лишь, что частица и перед подлежащим я имеет значение 'тоже, также' и подразумевает, что были и другие поднявшие руку, следовательно, сочетание в том числе здесь избыточно. Сравним: Поднял руку и я.

В словарях зафиксирована частица а, выражающая сильное удивление, восхищение или возмущение и занимающая заключительную позицию в вопросительном или восклицательном предложении. Следовательно, после нее возможен как тот, так и другой знак, а также их сочетание. Частица ну в подобной функции и в этой позиции в словарях не отмечена, но очевидно, что пунктуация при ней будет такой же, как при частице а.

Слова такие как сопровождают ряд однородных членов после обобщающего слова, в данном случае это слово пиратов. Этот ряд имеет поясняюще-конкретизирующее значение и потому нуждается в обособлении. Справочники обращают внимание на то, что в подобных случаях после слов такие как не требуется двоеточие. Следовательно, корректно: Множество знаменитых пиратов, таких как Уильям Кидд, Роберт Друри и др., жили на острове и грабили купцов.