В сочетании с географическим термином гора названия женского рода склоняются: на горе Зеленой. Названия мужского рода остаются в начальной форме: у горы Эльбрус.
В данном случае уместен либо курсив, либо кавычки.
Нет, это не однокоренные слова.
Большая советская энциклопедия фиксирует 2 варианта названия на русском языке: море Скоша (на первом месте) и море Скотия.
Возможны оба варианта. Запятая ставится, если определение имеет значение пояснительное и конкретизирующее (это также выражается интонацией). Если такого значения нет, запятая не нужна.