Толковые словари русского языка сообщают в статьях о слове стража: встать на стражу чего-либо, но стоять на страже.
Все названные Вами варианты верны.
Такая формулировка в заявлении уместна.
Запятая нужна.
Возможный вариант: выдать лицензию закрытому акционерному обществу "Управляющая компания банка "Название".
Литературный язык такого слова не знает.