О маленькой букве правильно только строчна́я.
Правильно писать глава города строчными.
Если это сочетание осмысляется именно как имя персонажа, а не как описательный оборот, то возможны два варианта: Крысиный король и Крысиный Король. Ср.: Маленький принц, Зеленый рыцарь и Прекрасная Дама, Белый Кролик. Выбор за автором.
Фраза Все мы вышли из гоголевской «Шинели» означает, что расцвет русской классической литературы XIX века произошел во многом благодаря творчеству Н. В. Гоголя. Темы, поднятые Гоголем в повести «Шинель» («маленький человек», «Петербург»), стали на многие десятилетия ведущими темами русской литературы.
Использование предлога с вместо из — история давняя, характеризующая обиходную речь тех, кто без внимания относится к «маленьким» словам в словосочетаниях с пространственным значением. Нормы русского литературного языка не предполагают нейтральной оценки подобного смешения, поэтому приведенные примеры не признаются допустимыми.