Верно: с Иоанном Дамаскином.
Второй вариант стилистически лучше.
Сочетание решить проблему корректно и зафиксировано в словарях.
Оба варианта возможны.
Да, это корректное сочетание.
Это нарушение лексической сочетаемости: решить можно, например, задачу, а упражнение выполняют.
Это сочетание корректно. Будет ли оно синонимом сочетания решить проблему, зависит от контекста.