Приведенное Вами выражение чаще записывается в современной графике — с буквой и. Кавычки в нем возникают под влиянием специальных текстов (в частности, лингвистических), в которых буквы принято выделять курсивом (так, например, в наших ответах). Однако курсив в названиях букв, записанных словом (бэ, вэ, же, твердый знак, фита, ижица, э оборотное, и десятеричное, и восьмеричное, и краткое, и), как и кавычки, избыточен. Приведем другие примеры фразеологизмов с названиями букв: на ять, писать (выделывать) мыслете, от аза до ижицы, от альфы до омеги, от а до я. Если во фразеологизме необходимо заменить и на i, то кавычки тем более не нужны: иная графика (латиница или вышедшие из употребления буквы кириллицы) — достаточное средство выделения.

Наша общая рекомендация — не выделять букву во фразеологизме ни курсивом, ни кавычками (см. также фиксацию фразеологизма и других названий букв в базе орфографического академического ресурса «Академос»). Но мы не можем не отметить, что иногда от общих рекомендаций приходится отступать под влиянием всего текста, его оформления, расположения на странице. Такие решения принимает редактор.

Долгий звонкий мягкий вариант звука [ж]: /ʑ:/, отдельной буквой не представимый (для соответствующего глухого звука существует буква Щ), произносится лишь в отдельных словах на месте сочетаний "жж", "зж", при этом только в соответствии со старшей нормой произношения: жужжать [жуж':áт'], вожжи [вóж':и], езжу [jéж':у], приезжать [пр'ийиж':áт'], до[ж’ж’]и (дожди), дро[ж’ж’]и (дрожжи), во[ж’ж’]и (вожжи), по[ж’ж’]е (позже), е[ж’ж’]у (езжу), «ви[ж’ж’]ять» (визжать), «дребе[ж’ж’]ять» (дребезжать), «бре[ж’ж’]ить» (брезжить). Также этот звук встречается в некоторых заимствованных словах: [ж’]юри, [ж’]юльен, [Ж’]юль Верн. Однако не все лингвисты признают его существование. 

Запятая не ставится при отсутствии паузы между союзами и ставится, если пауза делается. Поэтому окончательное решение принимает автор текста.

Эта словарная рекомендация - из актуального "Русского орфографического словаря" Российской академии наук.

После орфографической реформы 1917 – 1918 гг., упразднившей написание Ъ на конце слов, пишущие иногда избегали и употребления разделительного Ъ, хотя оно было регламентировано правилами правописания. В практике письма получило некоторое распространение употребление апострофа в функции Ъ: с'езд, об'ём, из'ятие и т. п. Однако такое употребление апострофа никогда не соответствовало и не соответствует письменной норме.

Полный академический справочник «Правила русской орфографии и пунктуации» (М., 2006 и более поздние издания) рекомендует писать с прописной буквы слово Бог как название единого верховного существа в монотеистических религиях. Нормативное написание: верить в Бога, молиться Богу.

Однако в следующих случаях рекомендуется написание со строчной буквы:

1. В формах множественного числа, в значении одного из множества божеств, а также в переносном значении: боги Олимпа, бог Аполлон, бог войны.
2. В устойчивых сочетаниях, употребляющихся в разговорной речи вне связи с религией: не бог весть, бог знает что, бог с ним, не дай бог, ради бога, как бог на душу положит, боже упаси, ей-богу и т. д.  Невозможна прописная буква в таком, например, контексте: у него всё не слава богу.

С прописной буквы пишутся также прилагательные Божий, Божественный в религиозном контексте: храм Божий, благодать Божья, Божественная Троица, Божественная литургия. Но: божий одуванчик, божья коровка, божественный вкус (в знач. 'восхитительный').

См. также: http://gramota.ru/spravka/letters/?rub=ortho

Употребление слов супруг и супруга в обычной речи не приветствуется, но не столько из-за того, что будто бы свидетельствует о каком-то делении на «высшие» и «низшие» касты, сколько из-за того, что такое употребление противоречит стилистической норме современного литературного языка, придаёт речи манерность, некоторую слащавость и квалифицируется рядом лингвистов как проявление «речевого мещанства».

Раньше слова супруг и супруга таких стилистических оттенков не имели, ср. строки из «Евгения Онегина» (стихи Ленского к Ольге):  «Сердечный друг, желанный друг, Приди, приди: я твой супруг!..». Однако в современной речи слова супруг и супруга носят официальный характер (в официальной хронике можно встретить такое сочетание: супруга президента посетила...).  В обычной же речи корректно употребление слова супруги во множественном числе по отношению к паре: молодые супруги, супруги Ивановы. А вот в единственном числе в обычной речи употребление этих слов расценивается как дурной тон: таких выражений, как мы с супругой (супругом), мой (моя) супруг (супруга) следует избегать и говорить мы с мужем / женой, моя (мой) жена (муж).

Действительно, классическая поэзия приучила нас к тому, что каждая стихотворная строка начинается с прописной буквы (независимо от того, какой знак стоит в конце предыдущей строки и стоит ли он вообще). Но в стихотворении, как, пожалуй, ни в каком другом литературном жанре, в наибольшей степени проявляется авторская воля. Автор определяет место начала строки, расположение строк, разбивку текста на строфы и т. п. Волен он и начинать строку с маленькой буквы, никакого запрета на это правила правописания не содержат. Особенно такой прием характерен для поэзии XX века, и для некоторых поэтов он становится своеобразной «визитной карточкой». Например, такое оформление характерно для большинства стихотворных произведений Булата Окуджавы: строка начинается с прописной буквы, только если перед этим закончилось предложение. Вот пример (из «Песенки о Моцарте»):

Где-нибудь на остановке конечной
скажем спасибо и этой судьбе,
но из грехов своей родины вечной
не сотворить бы кумира себе.
Ах, ничего, что всегда, как известно,
наша судьба – то гульба, то пальба...
Не расставайтесь с надеждой, маэстро,
не убирайте ладони со лба.