Корректна строчная буква, а вот вопрос об использовании кавычек спорен. 

Нужно иметь в виду, что одна из главных функций кавычек — выделительная, то есть, заключая то или иное слово или сочетание слов в кавычки, пишущий стремится обратить на них внимание. Поэтому, в частности, часто выделяются кавычками слова, употребленные в условном, ироническом, образном, необычном и т. п. значении. Однако по мере того как подобные выражения становятся обиходными (широко употребительными) в кавычки они заключаются всё реже. Например, стали писать без кавычек: часы пик; голосовать за и против; работать на отлично; живая газета и др.

На наш взгляд, условные наименования орудий пыток типа "стул ведьмы", "железная дева", "испанский сапог", "медный бык" следует заключать в кавычки, чтобы не возникало путаницы с такими же словосочетаниями в их прямом значении. 

Запятая не нужна.

Непростой вопрос. Примеры подобных сочетаний в справочных пособиях по правописанию не приводятся. Но можно руководствоваться общим правилом: сочетание нарицательного существительного и следующего за ним собственного имени пишется раздельно. Корректно: мужчина Дева.

Нет, эти слова не связаны этимологически.

Правильно: Орлеанская дева.

Современная орфографическая норма:

Де́ва, -ы (о Богородице): Де́ва Мари́я, Пресвята́я Де́ва, Пречи́стая Де́ва

Бо́жия (Бо́жья) Ма́терь

Предве́чный, -ого (о Боге)

Написание можно проверить в академическом орфографическом словаре, размещенном на ресурсе «Академос» Института русского языка им. В. В. Виноградова РАН.