Кавычки уместны. 

Да, может.

Запятые ставить не нужно.

Кавычки-елочки предпочтительнее кавычек-лапок, потому что именно они считаются основным способом выделения печатного текста на русском языке. См. материал «В чем разница между кавычками разного рисунка?» в разделе «Письмовник» на нашем портале.

Да, ошибки присутствуют.

К сожалению, нам не удалось обнаружить в словарях и других заслуживающих доверия лингвистических источниках историю этого выражения. Тем не менее в Интернете публикуются версии его происхождения, приведем наиболее распространенную.

В Одессе почти сто лет со дня основания (1792) не было водопровода. Воду возили водовозы, причем издалека, так как в приморской зоне колодцы дают воду солоноватую, пригодную только для технических целей. Артезианские скважины называли фонтанами.

Скважины с лучшей питьевой водой нашлись в ~10 км от центра города. Туда построили дорогу, и стали называть Фонтанской дорогой. Она и теперь так называется. В старой песне «Фонтан черемухой покрылся» — это на улице, вдоль дороги росла черемуха. Лучшая вода оттуда стоила дороже, но водовозы норовили привезти воду из колодцев поближе и продать по цене фонтанской. Знатоки, хозяйки пробовали и говорили: «Нет! Это не фонтан!».

Правила об употреблении подобных псевдонимов нет, но можно попробовать опереться на прецедент. Псевдоним Жорж Санд устойчиво используется как женское имя. Например: 

Отчего, например, так понравилась Жорж Санд? «А потому, ― отвечает Белинский, ― что для нее не существуют ни аристократы, ни плебеи; для нее существует только человек, и она находит человека во всех сословиях, во всех слоях общества, любит его, сострадает ему, гордится им и плачет за него…» [Е. А. Соловьев-Андреевич. Александр Герцен. Его жизнь и литературная деятельность (1897)] 

Жорж Санд стала известной сразу по выходу первых романов ― «Индиана» и «Валентина». [А. Всеволжский. Мятежная Аврора (2004) // «Вокруг света», 2004.07.15]

Но один из пятидесяти экземпляров, отпечатанных в 1846 году, приобрела Е. Г. Бекетова, переводчица Вальтера Скотта, Диккенса, Теккерея, Жорж Санд, Гюго, Бальзака и многих других прекрасных писателей. [В. Баевский. Ассиар // «Знамя», 2005]    

Однако интересно, что современник писательницы Н. Г. Чернышевский в статье «Жизнь Жоржа Санда», комментируя публикацию ее мемуаров, склоняет новаторский для того времени псевдоним Джорж Санд как мужское имя, а согласует с ним слова как с женским именем. Ср.:

Едва ли какое-нибудь явление в изящной словесности последних двух или трех лет имело столь сильный успех, как мемуары Жоржа Санда. <...> Казалось, что Жорж Санд намерена дать им [«Записок»] громадный размер... <...> Итак, вполне переводить «Записки» г-жи Жорж Санд невозможно. Тем не менее, автобиография заключает в себе очень много интересных фактов и прекрасных эпизодов. Иначе и быть не могло. Жизнь Жоржа Санда замечательна не только высоким психологическим развитием: она также богата драматическими [положениями]. Все это вместе сообщает ее «Запискам» высокую занимательность. Кроме того, Жорж Санд принимала сильное участие в исторических событиях, сближалась со многими замечательными людьми, и ее «Записки» прекрасно знакомят нас с некоторыми из них. <...> 

Вероятно, в этой статье отражен начальный этап освоения мужского имени как женского псевдонима. Сейчас для нас более естественными кажутся сочетания жизнь Жорж Санд, мемуары Жорж Санд.