Сначала о склонении без родового слова город. Согласно словарям русского языка (см., напр.: Русский орфографический словарь РАН / Под ред. В. В. Лопатина, О. Е. Ивановой. – 4-е изд., испр. и доп. – М., 2012; Агеенко Ф. Л. Словарь собственных имен русского языка. М., 2010), склоняются обе части этого названия: Усолье-Сибирское, Усолья-Сибирского.

При употреблении в сочетании со словом город нет причин не склонять это название. Несовпадение рода обобщающего нарицательного слова и географического названия не влияет на склоняемость топонимов в сочетании со словом город. Восстановить исходную форму при склонении достаточно легко. Следовательно, нужно склонять: из города Усолья-Сибирского, в городе Усолье-Сибирском.

Предпочтительно: "Горбушкина двора".

Притяжательные прилагательные с суффиксами -ин- (мам-ин) и -ов- (отц-ов) имеют субстантивные окончания в И. п. и В. п.; кроме того в Р. п. и Д. п. единственного числа мужского и среднего рода они имеют вариативные окончания (правда, адъективные окончания употребляются чаще, чем субстантивные):

В обобщенно-личных предложениях главный член выражен глаголом в форме второго лица единственного числа изъявительного и повелительного наклонений или в форме третьего лица множественного числа изъявительного наклонения.

Главный член безличного предложения стоит в форме третьего лица единственного числа (в настоящем или будущем времени изъявительного наклонения) или среднего рода единственного числа (в прошедшем времени изъявительного наклонения и в условном наклонении) — это так называемая безличная форма.

В первой части сложного предложения Любишь кататься — люби и саночки возить глагол стоит в форме второго лица единственного числа изъявительного наклонения (любишь), а во второй части — в форме единственного числа повелительного наклонения (люби). Таким образом, это обобщенно-личное предложение.

Те правила правописания, которые размещены на нашем портале и параграф из которых Вы привели, – это «Правила русской орфографии и пунктуации» 1956 года, официально действующие и поныне. Справочники по правописанию Д. Э. Розенталя полностью основаны на этом своде правил, представляют собой своего рода расширенный комментарий к ним (как есть конституция – тонкая брошюра и комментарий к конституции – толстая книга). Поэтому противопоставлять «Правила» 1956 года и справочники Розенталя нельзя: речь идет об одних и тех же письменных нормах.  «У Розенталя все четко и понятно» потому, что правила правописания в его справочниках описаны более детально и проиллюстрированы бОльшим количеством примеров.

Правильно: последний.

Вот цитата из книги «Слово о словах» Л. В. Успенского:

Тысячи людей говорят: "Кто тут крайний?", подойдя к очереди за газетами... Это словоупотребление не может быть признано правильным и литературным. Если на вопрос: "В каком вагоне ты едешь?" вы ответите: "В крайнем!", у вас сейчас же потребуют разъяснить: от начала или от конца поезда, в первом или в последнем? У каждого ряда предметов по крайней мере два края, и слово "крайний" стало употребляться тут по нелепому недоразумению, ибо обычному слову "последний" в некоторых говорах народной речи придается неодобрительное значение - "плохой", "никуда не годный": "Опоследний ты, братец мой, человек!".

При глаголах взять, захватить (и подобных) местоимение с предлогом с собой самостоятельным членом предложения не является. Это видно хотя бы из того, что опущение этого местоимения не приводит ни к изменению, ни к обеднению смысла предложения. Назначение местоимения состоит в выделении именно данного значения глагола из ряда других (ведь и взять, и захватить — глаголы многозначные). Если сказано взял с собой, то значения ‘взял силой, завоевал, покорил, принял (разг.)’ и т.п. отпадают, в результате гарантировано правильное понимание.

Следовательно, местоимение входит в состав сказуемого, но не меняет его типа (в данном случае — простое глагольное).

Конечно, Вы правы. Склонение мужской фамилии Маркзицер обязательно, правила склонения фамилий не менялись. К сожалению, ситуация, в которой Вы оказались, очень распространенная: зачастую очень трудно (а в некоторых случаях, увы, и вовсе невозможно) убедить носителей такого рода фамилий в том, что по законам русской грамматики их надо склонять. В практике работы нашей справочной службы были случаи, когда родители доходили до прокуратуры (!) с требованием запретить школе склонять их склоняемую фамилию...

Можно сделать вот что: обратиться с запросом в Институт русского языка им. В. В. Виноградова РАН — ruslang@ruslang.ru. Возможно, официальный ответ на бланке академического института поможет убедить маму мальчика? 

Здесь логика та же, что и с названиями, например, марок автомобилей.

Автомобиль — сущ. мужского рода, (авто)машина — женского. Из этого как будто бы следует, что можно и так, и так. Но, когда речь идет, допустим, о «Волге», пишут и говорят приехал на синей «Волге» (ж. р.), а когда о «Москвиче» — приехал на синем «Москвиче» (м. р.). Противоположные варианты исключены. Это означает, что решающую роль играет род того существительного, которое и является названием, а не род слова, обозначающего понятие. Следовательно, когда речь идет о байдарке, мужской род названия «Таймень» сохраняется.

Словоупотребление существительных в подобных контекстах нормой не регламентировано, а в узусе оно колеблется. Считается, что дистантное расположение числительного и существительного должно препятствовать образованию формы с ударением на окончании: два широких ша́га, но не два широких шага́ (Мельчук И. А. Поверхностный синтаксис русских числовых выражений. Вена, 1985. С. 432–433). Однако формы с ударением на окончании от разных существительных проявляют различную степень устойчивости при отделении от числительного определением или другим словом. Наибольшую устойчивость проявляет здесь форма часа́ (два долгих часа́), в меньшей мере это касается словоформ ряда́ и шага́ (Холодилова М. А. Счетные формы малого количества в русском языке: закономерности лексического распределения).

Постановка знаков препинания при обороте с предлогами от... (и) до не кодифицирована справочниками. Можно только дать рекомендации, опираясь на основной принцип русской пунктуации — синтаксический. Элементы однородного ряда и обобщающее их слово находятся в одной и той же форме, чего нельзя сказать об обороте с предлогами от... (и) до и слове, к которому он относится. Именно поэтому ставить двоеточие перед этим оборотом не рекомендуется, но можно поставить тире или запятую. В некоторых случаях возможен также, наряду с указанными, вариант без знака препинания, как во второй части Тотального диктанта — 2016: ...всё вокруг было измазано глиной от пола и до потолка.