Это выражение употребляется (часто с неодобрительным оттенком) по отношению к  людям чудаковатым, необычным, резко выделяющимся среди других. Восходит к 7-й сатире римского поэта Ювенала:

Рок дает царства рабам, доставляет пленным триумфы.
Впрочем, счастливец такой реже белой вороны бывает.

1. Кавычки не ставятся. 2. Запятая не нужна.

Название улицы Борисовские Пруды добавили в «Словарь улиц Москвы». Спасибо за дополнение!

Рекомендация, приведенная в справочнике Д. Э. Розенталя, не соответствует современной норме письма. Во-первых, сама рекомендация более чем странная: Нарицательные существительные в составных географических названиях пишутся с прописной буквы, если они употреблены не в прямом значении и называют объект условно, например: Белая Церковь (город), Красная Поляна (город) ... Кузнецкий мост, Земляной вал (улицы), Никитские ворота (площадь)... Примеры противоречат правилу! Ведь Кузнецкий мост  – не мост, а улица, Никитские ворота – не ворота, а площадь, т. е. нарицательные существительные употреблены не в прямом значении, почему в таком случае они пишутся со строчной?

Во-вторых, не так давно в Институте русского языка им. В. В. Виноградова РАН была подготовлена новая редакция правил употребления прописных и строчных букв, отвечающая орфографической практике конца XX – начала XXI века и одобренная Орфографической комиссией при Отделении историко-филологических наук РАН. Эти правила приведены и в полном академическом справочнике «Правила русской орфографии и пунктуации» под ред. В. В. Лопатина, и в орфографическом словаре В. В. Лопатина, И. В. Нечаевой, Л. К. Чельцовой «Прописная или строчная?». Согласно этим правилам, в названиях улиц, площадей, бульваров и т. п. с прописной буквы пишутся все слова, кроме родовых терминов (самих слов улица, площадь, переулок, проспект, бульвар и т. п.), а также слов года, лет. Таким образом, правильно: улица Коровий Вал, улица Кузнецкий Мост, улица Борисовские Пруды, площадь Никитские Ворота.

Можно посмотреть здесь.