Это тот редкий случай, когда запятая и тире ставятся как единый знак препинания для обозначения «перелома» конструкции. Последняя часть – это комментарий ко всей предыдущей части, представляющей собой сложное предложение.
Первое. Если речь именно о названии населенного пункта, а не о названии острова, то корректно написание обеих частей названия с прописной буквы: Попов Остров.
И второе. Склонять следует обе части названия: порт Попова Острова.