Если имеется в виду день недели, оба варианта верны.
Это сочетание именно с таким порядком слов не кодифицировано в нормативных источниках. Для ответа на вопрос о прописной/строчной важно знать, в каком значении и контексте используется данное сочетание (это имя сказочного персонажа или просто обозначение уродливой злой старухи) и, если это имя персонажа, с какой целью разрушается традиционный порядок слов в нем.
В словаре В. И. Даля зафиксировано: «ЯГА или яга-баба, баба-яга, ягая и ягавая или ягишна и ягинична, род ведьмы, злой дух, под личиною безобразной старухи». В данном контексте яга-баба пишется строчными как имя нарицательное. Но словарь Даля не является нормативным справочником по современному русскому языку.
И всё же правильно слитное написание: ничью сторону. Именно такой вариант мы и рекомендуем Вам выбрать.
Корректно: он был третьим по счету. Подобные вопросы можно адресовать "Русской грамматике" (М., 1980) и практическим пособиям по литературному редактированию (например, книгам Д. Э. Розенталя).
Обе запятые нужно поставить.
См. «Горячие вопросы».
