Первый вариант неправилен. Второй вариант возможен, также возможен и вариант написания без прописных букв. По отношению к ведомству Морского министерства Российской империи, полагаем, сейчас приемлемы оба написания. Какой была форма названия в официальных документах, нам установить не удалось, но в публикациях об истории российского флота встречаются и вариант со строчной, и вариант с прописной (неправильные написания тоже попадаются, но на них ориентироваться не стоит). Главное, чтобы в одном тексте использовался какой-то один вариант.
Лучше использовать скобки: В Бирмингеме (штат Мичиган) лимузин врезался в дерево.
Гоа – существительное мужского рода.
Корректно без кавычек: Штат садов (ср.: Город желтого дьявола, Страна утренней свежести – образные названия городов и стран не заключаются в кавычки, поэтому так же можно писать и образное название штата).
Правильно: В городе Дубне, в штате Техас. Подробнее см. в «Письмовнике».
Верно: столица штата Джорджия.
«Словарь собственных имен русского языка» Ф. Л. Агеенко (М., 2010) фиксирует оба варианта, указывая в качестве предпочтительного вариант Вирджиния.