Правильно: сторожа.

Если авторские слова, стоящие после прямой речи, представляют собой отдельное предложение, то они начинаются с прописной буквы:

– Я же говорила. – Гордая мама подпёрла бока руками.

– День получки! – Сторож похлопал себя по карману.

Обратите внимание: второе предложение построено неудачно, т. к. глагол заметила воспринимается как глагол говорения.

В сложноподчиненном предложении Сторож проводил их туда, куда нужно запятая ставится. Однако без соотносительного слова туда в главной части придаточная часть может потерять самостоятельность и стать цельным по смыслу выражением: Сторож проводил их куда нужно (= в нужное место).

Верно: Сторож начал выкрикивать ругательства, услышав которые мальчики, не сговариваясь, побежали в сторону выхода. Поскольку деепричастие услышав в составе определительной придаточной части имеет в качестве зависимого слова союзное слово который (см. пункт 4 параграфа 71 полного академического справочника «Правила русской орфографии и пунктуации» под ред. В. В. Лопатина), после такого деепричастного оборота запятая не ставится. В остальном пунктуация корректна.

Корректно: Она напоминала Бабу-ягу из сборника Афанасьева. В ее полутемной каморке гостил мужик — сторож или, может быть, дворник с моржовыми усами, как у лешего.

Морфемный анализ: о-сторож-н-ый → о-сторож-н-о (в прилагательном и наречии корень сторож-, как и в существительном сторож), см. «Словарь морфем русского языка» А. И. Кузнецовой и Т. Е. Ефремовой.

При словообразовательном анализе (синхроническом) слова сторож (основа совпадает с корнем) и осторожн-ый (→ осторожн-о) рассматриваются как непроизводные, утратившие смысловые связи друг с другом. Поэтому в словах осторожный и осторожно выделяется корень осторож-. См. «Словообразовательный словарь русского языка» А. Н. Тихонова.