Запятая в подобных конструкциях ставится. Ср.: И добро б уж закололи вы его: бог с ним, с Алексеем Иванычем; я и сам до него не охотник (А. С. Пушкин, Капитанская дочка).

Полный академический справочник «Правила русской орфографии и пунктуации» (М., 2006 и более поздние издания) рекомендует писать с прописной буквы слово Бог как название единого верховного существа в монотеистических религиях. Нормативное написание: верить в Бога, молиться Богу.

Однако в следующих случаях рекомендуется написание со строчной буквы:

1. В формах множественного числа, в значении одного из множества божеств, а также в переносном значении: боги Олимпа, бог Аполлон, бог войны.
2. В устойчивых сочетаниях, употребляющихся в разговорной речи вне связи с религией: не бог весть, бог знает что, бог с ним, не дай бог, ради бога, как бог на душу положит, боже упаси, ей-богу и т. д.  Невозможна прописная буква в таком, например, контексте: у него всё не слава богу.

С прописной буквы пишутся также прилагательные Божий, Божественный в религиозном контексте: храм Божий, благодать Божья, Божественная Троица, Божественная литургия. Но: божий одуванчик, божья коровка, божественный вкус (в знач. 'восхитительный').

См. также: http://gramota.ru/spravka/letters/?rub=ortho