С большой буквы нужно писать официальные названия министерств, отечественных и зарубежных (то есть писать так, как эти названия оформляются в документах). А вот сочетания типа "минздрав США" можно написать со строчной.

Вы совершенно правы: наречие однажды в норме сочетается с глаголами совершенного вида, обозначающими однократное действие (однажды прыгнул, но не *однажды прыгал). 

В выражении ей-богу и во множественном числе (о боги) возможно только написание строчными.

В остальных случаях руководствуемся правилом: в устойчивых сочетаниях междометного характера, которые употребляются в разговорной речи вне прямой связи с религией, слова бог и господь пишутся со строчной буквы: не дай бог, о боже мой, не приведи господь, слава богу. 

Слова Боже и Господи пишутся с большой буквы, если выражают обращение к Богу. В некоторых случаях выбор написания зависит от контекста. Так, может быть написано слава Богу (если контекст указывает, что говорящий действительно благодарит Господа Бога) и слава богу (если по контексту ясно, что употреблен расхожий разговорный оборот: В тот раз он, слава богу, пришёл вовремя!).