Написание зависит от смысла высказывания. Если имеется в виду, что задача сложная, тогда верным будет слитное написание. Если же подразумевается, что задача не является простой, но при этом степень ее сложности не уточняется (предположим, эта задача может быть и средней, и высокой степени сложности) или в данном контексте не имеет значения, тогда надо написать раздельно. Иначе говоря, если признак предмета только отрицается, но никакой другой признак при этом не утверждается, корректно раздельное написание. Ср., например, такой контекст: Вот три задачи. Одна из них простая. Какая? Вторая? Неверно, это не простая задача.

См. ответ на вопрос № 285412.

Это действительно так: в официальные документы органов государственной власти проникло безграмотное написание. В. В. Лопатин, ответственный редактор «Русского орфографического словаря» и председатель Орфографической комиссии РАН, говорит об этом так: «У нас появилась Лимпиада». К сожалению, лингвисты здесь уже вряд ли могут что-то поделать.

Вводным не является, обособления не требует.

Возможно. Но вопрос касался только написания, а не целесообразности использования таких сочетаний.

В этом сочетании не нарушены никакие нормы русского литературного языка. Подобный оборот можно встретить в текстах Ф. Достоевского, В. Катаева, А. Сахарова и др. Ср.: Мне казалось, что мысль о подорожной и лошадях (хотя бы и с колокольчиком) должна была представляться ему слишком простою и прозаичною; напротив, пилигримство, хотя бы и с зонтиком, гораздо более красивым и мстительно-любовным (Ф. Достоевский. Бесы); Его раздражал их дешевый цинизм, дешевый потому, что зубоскалить было легче легкого, он умел это получше их, однако жизнь, он убедился, гораздо более сложный процесс; сначала ее воспринимаешь по законам арифметики, а потом… (Д. Гранин. Иду на грозу).

Может быть, поставить интонационно-логическое тире?