Корректно с запятой: Мои музыкальные предпочтения весьма широки: от классической музыки, в которую я был погружён, когда был учеником музыкальной школы, до популярных произведений.

Обстоятельственные обороты с предлогом на протяжении обычно не обособляются. Также этот оборот не имеет характера добавочных сведений, сообщаемых попутно, поэтому его нельзя рассматривать как присоединительный член предложения. Следовательно, для постановки запятых нет оснований.

Запятая не нужна. Если слова, заключенные в кавычки, должны были бы заканчиваться запятой, а дальше следует продолжение текста, то запятая не ставится ни перед кавычками, ни после них. Правильно: Понятие «женщины, способные к зачатию» включает в себя всех женщин...

Возможны оба варианта, выбираете Вы.