Правильно: стрелка Васильевского острова.
Правильно: вглубь острова, вглубь Арктики. Ср.: в глубь океана (=в глубину).
Правильно не склонять: с острова Русский. Однако в разговорной речи нередко употребляются согласуемые формы: приехали с острова Русского.
Словари фиксируют ударение на первом слоге: Кадьяк (хотя медведь – кадьяк).
Корректно: Аландские острова, Северо-Западные территории.
Да, правильно: корфиоты. См.: Городецкая И. Л., Левашов Е. А. Русские названия жителей. Словарь-справочник. М., 2003.
Оскома - то же, что и оскомина (вяжущее ощущение во рту от чего-л. кислого или терпкого).
Корректно: в Костроме, в городе Костроме.