С большой буквы нужно писать официальные названия министерств, отечественных и зарубежных (то есть писать так, как эти названия оформляются в документах). А вот сочетания типа "минздрав США" можно написать со строчной.

1. «Правила русской орфографии и пунктуации» 1956 года – это официально действующие в настоящее время правила русского правописания. Официально действующие – но в ряде случаев значительно отстающие от современной практики письма, противоречащие ей, – такой вот парадокс. Написание с прописной буквы слова Бог не соответствует этим правилам, но в той же степени не соответствует им, например, написание с прописной слова Республика в сочетании Французская Республика, ибо согласно правилам 1956 г. слово республика пишется с прописной только «в официальных названиях советских республик и стран народной демократии». Раздел «Прописные буквы» в этом своде правил – пожалуй, наиболее устаревшая часть. В современных словарях и справочниках (некоторые из них приведены в пункте 2) рекомендации свода 1956 года пересмотрены, правила употребления прописных букв сформулированы заново, сейчас следует руководствоваться именно этими правилами.

2. См.: Правила русской орфографии и пунктуации. Полный академический справочник / Под ред. В. В. Лопатина. М., 2007; В. В. Лопатин, И. В. Нечаева, Л. К. Чельцова. Прописная или строчная? Орфографический словарь. М., 2007;  Мильчин А. Э., Чельцова Л. К. Справочник издателя и автора. М., 2003.

3. В политеистических религиях, действительно, существуют тысячи богов, поэтому, если речь идет об одном из верховных существ в политеистических религиях,  бог – нарицательное существительное (и пишется со строчной). Однако монотеистические религии основаны как раз на том принципе, что существует только один бог, поэтому в значении 'единое верховное существо в монотеистических религиях' слово Бог сближается с именем собственным, на этом и основана рекомендация писать это слово с прописной.

4. См. пункт 2. В этих изданиях употребляется именно слово «рекомендуется» (поэтому и мы так пишем). По поводу того, как оценивается написание бог / Бог в школьных сочинениях и диктантах, ничего не можем сказать (не знаем); вероятно, правильнее всего было бы не считать ошибкой ни то, ни другое написание, но рассказать ученикам о данной орфографической проблеме, о том, как она решается сейчас, какие рекомендации приведены в современных справочниках по правописанию.

Вы совершенно правы: наречие однажды в норме сочетается с глаголами совершенного вида, обозначающими однократное действие (однажды прыгнул, но не *однажды прыгал). 

В выражении ей-богу и во множественном числе (о боги) возможно только написание строчными.

В остальных случаях руководствуемся правилом: в устойчивых сочетаниях междометного характера, которые употребляются в разговорной речи вне прямой связи с религией, слова бог и господь пишутся со строчной буквы: не дай бог, о боже мой, не приведи господь, слава богу. 

Слова Боже и Господи пишутся с большой буквы, если выражают обращение к Богу. В некоторых случаях выбор написания зависит от контекста. Так, может быть написано слава Богу (если контекст указывает, что говорящий действительно благодарит Господа Бога) и слава богу (если по контексту ясно, что употреблен расхожий разговорный оборот: В тот раз он, слава богу, пришёл вовремя!).

В данном случае запятая перед словом "боже" не нужна.

Следует различать междометия и одинаково звучащие частицы: после междометий запятая ставится, после частиц — нет. Ср.:

О, это была бы райская жизнь!.. (Г.) — О поле, поле! Кто тебя усеял мёртвыми костями? (П.);

См. ответ № 248385.