Помочь нам ответить на Ваш вопрос мы попросили С. В. Друговейко-Должанскую, старшего преподавателя кафедры русского языка филологического факультета СПбГУ, члена Совета по русскому языку при Президенте Российской Федерации, члена Совета по культуре речи при губернаторе Санкт-Петербурга. Светлана Викторовна назвала предпочтительным вариант Старо-Невский. Такое написание встречается в том числе в книгах Н. А. Синдаловского, российского писателя, автора более 20 книг по истории Санкт-Петербурга.

В этом предложении деепричастие обозначает дополнительное действие и не несет в себе значение обстоятельства образа действия, в отличие от примеров типа Жили Артамоновы ни с кем не знакомясь или Старик шёл прихрамывая на правую ногу (см. примечание к параграфу 20.4 справочника по пунктуации Д. Э. Розенталя), что говорит о необходимости постановки запятой: ...никогда не выеду за ворота автопарка, не помолившись.

Верно без запятой: Эта книга (последнее им написанное) произвела на всех сильное впечатление. Определение последнее относится к сочетанию второго определения им написанное с подразумеваемым существительным произведение. Сравним примеры из пункта 7 параграфа 10.1 справочника по пунктуации Д. Э. Розенталя: чёрные появившиеся на скатерти пятна; заячий наполовину потёртый воротник; большой собранный автором материал. Так же и последнее им написанное произведение.

Написание безсрочный, безсрочно с буквой з — старая норма русской орфографии, о которой можно прочитать в книге Я. К. Грота «Русское правописание» 1885 г. (с. 43). Но прошло уже более 100 лет с того времени, как правила написания приставок на з/с изменились, и стало правильно писать бессрочный, бессрочно. Убедиться в этом можно с помощью современных словарей и правил орфографии.

В параграфе 53 полного академического справочника «Правила русской орфографии и пунктуации» под ред. В. В. Лопатина указано, что если определяемое слово (нарицательное существительное) уже имеет впереди стоящие согласованные определения, то несогласованные определения, выраженные существительными в форме косвенных падежей с предлогами, обособляются: маленькая монетка, размером с ноготь... Кроме того, в этом сочетании несогласованное определение уточняет согласованное.

Большой толковый словарь

Запятая перед деепричастным оборотом нужна: Катерина встретила свою настоящую любовь, будучи уже замужем. Заметим, что если бы деепричастный оборот начинался с частицы только, то запятую можно было бы не ставить: Катерина встретила свою настоящую любовь только будучи уже замужем. Сравним пример: Они встретились только будучи уже взрослыми («Справочник по русскому языку. Пунктуация» Д. Э. Розенталя, параграф 20.3). Но обратим внимание, что частица только не «запрещает» запятую. 

Подобное предложение приведено в параграфе 50 Справочника Д. Э. Розенталя, посвященном оформлению прямой речи внутри авторских слов: Не говорить же: «Эй, собака!» или «Эй, кошка!» В Вашем случае нужны запятые перед союзом или, поскольку он повторяющийся; тире после прямой речи перед вводным словом значит по условиям контекста не требуется: Если вам говорят: «Не делай этого», или «Остановись», или «Тебе это не нужно», значит, вы на правильном пути.

Современная норма: по окончании. В XIX веке форма подобных оборотов была неустойчива. Ср. данные «Словаря языка Пушкина»: по окончанию (по окончании): По окончанию трудов, Петр вынул карманную книжку, дабы справиться, всё ли им предполагаемое на сей день исполнено. АП 11.38. По окончанию трагедии она была вызвана криками исступления Ж2 11.20. По окончании же войны Суворов получил повеление немедленно ехать в Москву ИП 76.8. 

Оба слова существуют в русском языке, оба являются разговорными. У слова мусорка 2 значения: 1) машина для вывоза бытового мусора и пищевых отходов; 2) площадка для мусорных контейнеров во дворе; мусоросборник. У слова мусорница одно значение: то же, что мусоросборник. (См.: Большой академический словарь русского языка. Т. 10. М., СПб., 2008). Таким образом, мусоросборник в разговорной речи можно называть и мусоркой, и мусорницей, а машину – только мусоркой.