Действительно, здесь (именно в этом примере) весной - существительное. Аргументация верная: наречия не образуют таких словосочетаний.

Сочетение учиться с удовольствием привычно, понятно и правильно. В Национальном корпусе русского языка примеров его употребления много, в отличие от сочетания учиться в удовольствие, для которого примеров нет.

В словарях отмечается устойчивый оборот в своё удовольствие, означающий 'столько, сколько хочется, до полного удовлетворения', 'получая большое удовлетворение, радость от чего-л.', некоторые словари характеризуют его как разговорный. Полагаем, что эта характеристика верная, оттенок разговорности у оборота ощущается, особенно у его сокращенного варианта.

Таким образом, в текстах, не допускающих разговорных элементов, сочетание учиться в удовольствие лучше заменить на безупречное учиться с удовольствием.

Возможны варианты пунктуации в зависимости от смысла:

• Куда уезжаете, дорогие соотечественники, учиться?  (вопрос: куда уезжаете учиться?)
• Куда уезжаете, дорогие соотечественники? Учиться?  (вопрос: куда уезжаете?)

Ложись спать – правильно. Ложись – форма повелительного наклонения глагола ложиться, который входит в состав русского литературного языка.

К слову ложиться ни у кого претензий нет; говорят, что «нет» слова ложить (на самом деле такое слово, конечно же, есть, только является просторечием, не входит в состав литературного языка).