Оба варианта возможны, но они различаются стилистически: отмечать праздник – нейтральый, общеупотребительный вариант; справлять праздник – разговорный.
Правильно: Праздник Весны и Труда. Такая фиксация – и в официальных документах (см. Трудовой кодекс Российской Федерации), и в лингвистических источниках (например, в справочнике Д. Э. Розенталя «Прописная или строчная?»). Такое написание соответствует правилу: с большой буквы пишется первое слово в названии праздника и слова, которым приписывается особый высокий смысл.
Оба сочетания возможны в разговорной речи.
Корректно: праздник последнего звонка или праздник «Последний звонок».
Можно так: праздник Пасхи, новогодний праздник Шаага.
Правильно: праздник Светлой Пасхи (но: светлый праздник Пасхи).
Праздник - словарное слово. Написание нужно проверить по словарю.
Оба варианта соответствуют литературной норме.