Слово порт как компьютерный термин сохраняет ударение на о во всех формах единственного и множественного числа. Правильно в предложном падеже: (на, в, о) порте.
Кавычки не нужны: порт Высоцк.
При Саде... (форма на -у только в местном значении: где - в саду, в лесу, в порту).
В обоих случаях следует писать при порте: при Архангельском порте; в таможенной комиссии при Архангельском порте.
Подробнее см. в ответе 285378.
Окончание -У (Ю) встречается у ограниченного числа существительных в форме локатива (предложного падежа со значением "места действия"): в лесу, в порту, в углу, на боку, в раю и некоторые другие. Причины подробно излагаются в "Википедии".