Гласная А в этом слове - непроверяемая. Обращайтесь к словарю.
У нас нет однозначного ответа. Графические сокращения обычно произносятся как полные слова. Обычно мы не говорим так: 25 кагэ (вместо 25 килограмм). Но в некоторых случаях графическое сокращение может стать самостоятельным словом.
Следует ориентироваться на рекомендацию орфографического словаря: Баба-яга.
Словарные значения связаны исключительно с филологией. Но это не накладывает ограничения на использование слова в переносном смысле в других сферах. Ср., напр.: Не удивилась ничему, не задержалась ни на секунду, ― эта странная, нездешняя встреча превосходно вписывалась в стилистику сегодняшнего дня (Л. Кабо. Правдёнка).
«Русский орфографический словарь» РАН фиксирует: Баба-яга (сказочный персонаж) и баба-яга (безобразная злая старуха).