Корректна строчная буква, а вот вопрос об использовании кавычек спорен.
Нужно иметь в виду, что одна из главных функций кавычек — выделительная, то есть, заключая то или иное слово или сочетание слов в кавычки, пишущий стремится обратить на них внимание. Поэтому, в частности, часто выделяются кавычками слова, употребленные в условном, ироническом, образном, необычном и т. п. значении. Однако по мере того как подобные выражения становятся обиходными (широко употребительными) в кавычки они заключаются всё реже. Например, стали писать без кавычек: часы пик; голосовать за и против; работать на отлично; живая газета и др.
На наш взгляд, условные наименования орудий пыток типа "стул ведьмы", "железная дева", "испанский сапог", "медный бык" следует заключать в кавычки, чтобы не возникало путаницы с такими же словосочетаниями в их прямом значении.
Во-первых, не нужно повторять нарицательное слово, достаточно одного. Во-вторых, сочетание нарицательного существительного с препозитивным прилагательным, если существительное сохраняет свое значение, может быть осмыслено пишущим:
а) как сочетание имени собственного, выраженного прилагательным, с нарицательным именем — тогда только определение пишется с прописной буквы, напр.: Скупой рыцарь, Снежная королева, Спящая красавица, Мертвая царевна, Шемаханская царица, Солунские братья, Белый генерал (о М. Д. Скобелеве), Великий комбинатор (об Остапе Бендере), Вечный жид, Маленький принц, Железный хромец (о Тамерлане — Тимуре ибн Тарагай Барласи), Зеленый рыцарь, Великий инквизитор, Орлеанская дева, Синяя птица, Железный дровосек;
б) как единое сложное имя — тогда все слова пишутся с прописной, напр.: Серый Волк (волк по прозвищу Серый Волк). Такое понимание встречается в основном в переводной литературе, напр.: Белый Кролик, Дикая Кошка, Скалистый Змей, Двуцветный Питон.
Прописная буква в нарицательном имени используется, если его значение в имени преобразуется, например: Прекрасная Дама, Орлеанская Дева, Синяя Птица — здесь и Дама, и Дева, и Птица становятся символами.
Запятая не нужна.
Непростой вопрос. Примеры подобных сочетаний в справочных пособиях по правописанию не приводятся. Но можно руководствоваться общим правилом: сочетание нарицательного существительного и следующего за ним собственного имени пишется раздельно. Корректно: мужчина Дева.
Правильно: Орлеанская дева.
Нет, эти слова не связаны этимологически.