Мужская фамилия Принц склоняется так же, как и соответствующее нарицательное существительное: Принца, Принцу и т. д.

Правильно: герцог Анжуйский, герцогиня Йоркская, принц Уэльский (но в географических названиях – с прописной: остров Принца Уэльского).

Во-первых, не нужно повторять нарицательное слово, достаточно одного. Во-вторых, сочетание нарицательного существительного с препозитивным прилагательным, если существительное сохраняет свое значение, может быть осмыслено пишущим:

а) как сочетание имени собственного, выраженного прилагательным, с нарицательным именем — тогда только определение пишется с прописной буквы, напр.: Скупой рыцарь, Снежная королева, Спящая красавица, Мертвая царевна, Шемаханская царица, Солунские братья, Белый генерал (о М. Д. Скобелеве), Великий комбинатор (об Остапе Бендере), Вечный жид, Маленький принц, Железный хромец (о Тамерлане — Тимуре ибн Тарагай Барласи), Зеленый рыцарь, Великий инквизитор, Орлеанская дева, Синяя птица, Железный дровосек;

б) как единое сложное имя — тогда все слова пишутся с прописной, напр.: Серый Волк (волк по прозвищу Серый Волк). Такое понимание встречается в основном в переводной литературе, напр.: Белый Кролик, Дикая Кошка, Скалистый Змей, Двуцветный Питон. 

Прописная буква в нарицательном имени используется, если его значение в имени преобразуется, например: Прекрасная Дама, Орлеанская Дева, Синяя Птица — здесь и Дама, и Дева, и Птица становятся символами.

Оба слова в составе прозвища (не в имени персонажа) пишутся с большой буквы.

Относительное прилагательное от слова принц не образуется.

Разница в типах текстов: такие названия не выделяются кавычками в специальных текстах, но выделяются в текстах обычного характера. Например, в "Справочнике агронома" будут упомянуты тюльпан Черный принц и георгин Светлана, а в художественном произведении — тюльпан "Черный принц" и георгин "Светлана".