Воспользуйтесь словарями (окно «Искать на Грамоте») на нашем портале.

Лексически корректно.

Правильно: Федеральный канцлер; царская Россия.

Действительно, вариант щербет почти не фиксируется словарями, а произношение с начальным звуком [щ] отмечается как неправильное. Однако этот вариант не только распространен в разговорной речи, но и встречается в художественной и научной литературе. 

― Такого щербета мудрости уши мои никогда не пили! [Ф. Искандер]

…Молоховец, как летописец кулинарных дел, составляла яркую опись того, что предстоит потерять. Сотни желтков, (белки ― вылить! ) для одного кулича; розовый окорок, который можно достать из подпола, если гости пришли внезапно; алые муссы и белые щербеты, седые головы сахара… [А. Архангельский]

― А сорбет ― это щербет? ― спросила Сонина мама. [М. Трауб]

Морщась, я ем, потягиваю, пью тусклый лимонный щербет. [К. Азерный]

В Каффе для торжества закупали продукты к столу: вино, вишни или изюм, щербет, а также материалы для иллюминации и фейерверка. [из журн. «Общество: философия, история, культура», 2014] 

Аппарат использовался для охлаждения смеси лимонного щербета после пастеризации. [Научный журнал НИУ ИТМО. Серия «Процессы и аппараты пищевых производств», 2015]

Возможно, уже стоит подумать о введении варианта щербет в словарь. Спасибо за интересный вопрос!

В первом предложении лучше без кавычек, во втором - в кавычках.

В русском литературном языке у глагола плыть есть значение "ехать на корабле, лодке и т. п.". Например: плыть на корабле, плыть в лодке, плыть на веслах. Поэтому словосочетание плыть на байдарке, поплывем на байдарке совершенно правильно, полностью отвечает литературной норме современного русского языка.
Но необходимо сказать вот о чем. Люди одной профессии или одного круга общения нередко вырабатывают своего рода "язык в языке", т. е. жаргон. Жаргон - это разновидность речи какой-либо группы людей, объединенных единой профессией или занятием, своего рода знак принадлежности к определенному кругу общения. И значения слов, лексическая сочетаемость слов внутри жаргона может существенно отличаться от литературного языка. Так, профессиональные кондитеры возмущаются, когда слышат словосочетание печь торт, они говорят собирать торт. Водитель трамвая не произнесет трамвай идет в депо, а скажет вагон идет в депо. Точно так же в речи участников водного похода устойчивым словосочетанием является пойти на байдарке, а плыть на байдарке ими однозначно воспринимается как ошибка.
Кстати, наш программист - любитель походов по горным рекам - полностью согласился со сделавшими Вам замечание туристами.