Безгрешность, непогрешимость.
Не думаем, что эти слова образованы при помощи кальки.
Правильно: ретироваться.
Полагаем, что форма ед. числа при фразеологизме уместна, однако лучше глагол убрать: И смех и грех с этим Ванькой.
Да, запятую надо поставить. Если перед подчинительным союзом стоят усилительные частицы как раз, только, лишь, исключительно и т. п., то запятая ставится перед ними вопреки интонации.
Обособление нужно.