Правило таково: в названиях организаций, учреждений, органов власти с прописной буквы пишется только первое слово и входящие в состав названия имена собственные, поэтому орфографически правильно было бы писать Федеральное собрание, Государственная дума, Московская областная дума. Однако в официальных текстах (а на практике – в современной письменной речи вообще), вопреки орфографическим нормам, принято написание Федеральное Собрание, Государственная Дума, Московская областная Дума.
Кавычки не нужны: форт Красная Горка. См.: Розенталь Д. Э. Справочник по русскому языку. Прописная или строчная? – 7-е изд., перераб. и доп. М., 2005.
Слова в этих парах имеют общие корни.
Согласно «Большому толковому словарю русского языка» под редакцией С. А. Кузнецова правильно с предлогом В.
Корректно написание со строчной буквы.