В этом предложении союз да можно заменить как на союз и, так и на союз но. Поэтому возможны варианты пунктуации. Однако чаще запятую ставят, обозначая противительные отношения между однородными членами.
Словари фиксируют причастие ошибившийся. Следовательно, возможно и деепричастие ошибившись.