Запятая не ставится. Правило звучит следующим образом.

Не ставится запятая в цельных фразеологизированных сочетаниях с повторяющимися союзами и... и, ни... ни (они соединяют слова с противопоставляемыми значениями): и день и ночь, и стар и млад, и смех и горе, и там и сям, и то и се, и туда и сюда, ни два ни полтора, ни дать ни взять, ни сват ни брат, ни взад ни вперед, ни дна ни покрышки, ни то ни се, ни стать ни сесть, ни жив ни мертв, ни да ни нет, ни слуху ни духу, ни себе ни людям, ни рыба ни мясо, ни так ни сяк, ни пава ни ворона, ни шатко ни валко, ни тот ни этот и др. То же при парных сочетаниях слов, когда третьего не дано: и муж и жена, и земля и небо.

Словарные рекомендации противоречат друг другу.

В «Справочнике по русскому языку: правописание, произношение, литературное редактирование» Д. Э. Розенталя, Е. В. Джанджаковой, Н. П. Кабановой (М., 2010) указано, что официальные названия республик обычно согласуются со словом республика (т. е. склоняются), если оканчиваются на -ия, -ея (в Республике Болгарии, с Республикой Индией), и не согласуются, если оканчиваются на -а или имеют форму мужского рода (в Республике Куба, из Республики Панама, в Республике Вьетнам).

В то же время в «Словаре географических названий» А. В. Суперанской говорится, что в сочетании со словом республика названия республик женского рода обычно склоняются (независимо от окончания): в Республике Колумбии, из Республики Кубы. А вот названия республик мужского рода несклоняемы в функции приложения (здесь противоречия между справочниками нет): из Республики Нигер.

Впрочем, в официальных документах все названия республик, выступающие в роли приложения, часто остаются несклоняемыми.

Действительно, мы нередко определяем род несклоняемого иноязычного существительного по роду русского слова, которое рассматривается как синоним или как родовое наименование для данного неизменяемого существительного. Авеню женского рода, потому что слово улица женского рода, а пенальти мужского рода, потому что здесь влияет род слова (штрафной) удар. Но это скорее исключение, чем правило. Очень часто такая проверка не работает, внешний фонетический облик иноязычного слова оказывается более сильным фактором, и слово приобретает характеристику среднего рода. Среднего – потому что это общая закономерность для русского языка: несклоняемые иноязычные существительные, оканчивающиеся на гласный, обозначающие предмет, относятся к среднему роду. Ср.: пальто, кашне, метро, кафе  и т. д.

Вот и в данном случае решающее значение имеет облик иноязычного слова, а не его русский синоним. Несмотря на то что медресе – это школа, существительное медресе относится к среднему роду. Правильно: старейшее медресе.

«Русская фразеология. Историко-этимологический словарь» А. К. Бириха, В. М. Мокиенко, Л. И. Степанова (3-е изд., испр. и доп. М., 2005) выделяет три значения фразеологизма проливать / пролить свою кровь: «1. За кого, что. Погибать, умирать, защищая кого-либо, что-либо. 2. Сражаться, воевать. 3. Только в форме: ПРОЛИВАТЬ КРОВЬ чью, кого. Убивать, умерщвлять». Здесь же отмечается, что это выражение древнерусское, встречается в «Повести временных лет» в 1 и 3-м значениях, и приводится гипотеза его происхождения со ссылкой на статью Н. Т. Ходиной «Отражение поверий, предрассудков, обычаев во фразеологии» (Вопросы структуры и семантики германских и романских языков. Воронеж, 1975. С. 106.): «Смысл его, возможно, восходит к обычаю жертвоприношений: в глубокой древности часто приносили в жертву детей, главным образом первенцев. Позднее приношение в жертву первенца заменилось пролитием нескольких капель его крови или же закланием молодого животного».

В слове подбородок мы хорошо ощущаем этимологический корень -бород- и даже можем объяснить смысловую связь между словами подбородок и борода: на подбородке у мужчин растет борода. Однако отношений словообразовательной мотивации между словами борода и подбородок нет: значение слова подбородок мы не объясняем через значение слова борода. Вот одно из толкований слова подбородок – 'округлая нижняя часть лица, закрывающая переднюю часть нижней челюсти'. Это не дает нам оснований считать слова подбородок и борода однокоренными, связанными живой словообразовательной связью. Следуя строгой процедуре морфемного анализа, основанной на установлении отношений словообразовательной мотивации, в слове подбородок можно выделить  только корень подбородок-. Именно такой разбор представлен в «Морфемно-орфографическом словаре» А. Н. Тихонова. Учитывая языковую интуицию носителя языка и этимологические связи слов, можно выделять корень -бород-. На такой разбор опираются составители современного академического описания русской орфографии (см., напр. здесь). 

Корректна строчная буква, а вот вопрос об использовании кавычек спорен. 

Нужно иметь в виду, что одна из главных функций кавычек — выделительная, то есть, заключая то или иное слово или сочетание слов в кавычки, пишущий стремится обратить на них внимание. Поэтому, в частности, часто выделяются кавычками слова, употребленные в условном, ироническом, образном, необычном и т. п. значении. Однако по мере того как подобные выражения становятся обиходными (широко употребительными) в кавычки они заключаются всё реже. Например, стали писать без кавычек: часы пик; голосовать за и против; работать на отлично; живая газета и др.

На наш взгляд, условные наименования орудий пыток типа "стул ведьмы", "железная дева", "испанский сапог", "медный бык" следует заключать в кавычки, чтобы не возникало путаницы с такими же словосочетаниями в их прямом значении. 

Обороты «по + имя собственное», указывающие, согласно чьему мнению, чьей точке зрения, теории и т. п. что-либо утверждается, обычно обособляются. Уточним, что обособляются они в случае, если играют роль вводных конструкций, указывающих на источник сообщения, например: По Аристотелю, не все блага равноценны: есть вспомогательные, а есть финальные. Однако такие обороты могут быть тесно связаны с какими-то словами в предложении — не только с глагольными формами, на что обычно указывают справочники, но и с существительными, о чём свидетельствуют Ваши примеры. В этих случаях оборот «по + имя собственное» не нуждается в обособлении. 

В приведенных примерах по Аристотелю играет роль несогласованного определения. Кстати, тот же смысл можно выразить с помощью прилагательного, т. е. согласованного определения: идеальное государство по Аристотелю = аристотелевское идеальное государство. Возможность такой замены служит дополнительным доказательством того, что по Аристотелю здесь не является вводной конструкцией.

Да, такие правила существуют. Они называются правилами координации. Вот выдержка из этих правил.

Недопустимо слитное или дефисное написание с приставкой или первой частью сложного слова, если вторая часть содержит пробел, т. е. представляет собой сочетание слов. В этих случаях слитные или дефисные написания, рекомендуемые основными правилами, должны заменяться раздельными. Например, следует писать: лже доктор наук, псевдо произведение искусства, теле круглый стол, мини стиральная машина; экс Советский Союз, псевдо Ван Гог, пол рабочего дня, пол столовой ложки, пол Московской области. (Правила русской орфографии и пунктуации. Полный академический справочник / Под ред. В. В. Лопатина. М., 2006.)

Однако сочетание (лже) крымское шампанское может быть понято двояко и, соответственно, иметь разные написания. Лже крымское шампанское – это какой-то напиток, выдаваемый за крымское шампанское (лже + крымское шампанское), лжекрымское шампанское – это шампанское, которое сделано не в Крыму, но выдается за крымское.

Да, конструкции типа Я бы не стал этого делать вполне нормативны. Частица бы (б) является энклитикой, то есть не имеет собственного ударения и примыкает к предыдущему слову. Чаще всего частица бы (б) занимает либо второе место в предложении, либо место после предиката. Эти свойства частицы бы (б), как указывает А. А. Зализняк, являются следствием того, что в древнерусский период ее функционирование подчинялось закону Ваккернагеля: «…будучи теснейшим образом связана по смыслу со сказуемым, она [частица бы] тем не менее и ныне может уходить от него сколь угодно далеко влево. Наследием ваккернагелевского статуса является также запрет на дистантную постпозицию к сказуемому (возможна только контактная постпозиция); например, невозможно *Он от этого отказался наотрез бы – притом что и после он, и после этого, и после отказался частицу бы здесь поставить можно».