Написание зависит от смысла высказывания. Если имеется в виду, что задача сложная, тогда верным будет слитное написание. Если же подразумевается, что задача не является простой, но при этом степень ее сложности не уточняется (предположим, эта задача может быть и средней, и высокой степени сложности) или в данном контексте не имеет значения, тогда надо написать раздельно. Иначе говоря, если признак предмета только отрицается, но никакой другой признак при этом не утверждается, корректно раздельное написание. Ср., например, такой контекст: Вот три задачи. Одна из них простая. Какая? Вторая? Неверно, это не простая задача.

В случае если текст не содержит явного противопоставления (не простая, а сложная ситуация), решение о слитном или раздельном написании принимает автор текста.

Приведем словарную статью для слова алфавит из школьного этимологического словаря «Почему не иначе?» Л. В. Успенского.

Алфави́т. Помните, что мы говорили о нашем слове «азбука»? Оно — точная копия греческого «alfabetos»: оба слова построены совершенно одинаково.

Две первые буквы греческого письма звались «альфа» и «бета». Их история не простая; они были получены греками от финикийцев вместе со всей финикийской, семитической, письменностью. Письменность эта была некогда иероглифической. Каждый иероглиф назывался словом, начинавшимся со звука, который обозначался этим значком.

Первый в их ряду имел очертания головы быка; «бык» — по-финикийски «алеф». Вторым стоял рисунок дома; слово «дом» звучало как «бет». Постепенно эти значки стали означать звуки «а» и «б».

Значения финикийских слов греки не знали, но названия значков-букв они сохранили, чуть переделав их на свой лад: «альфа» и «бета». Их сочетание «альфабе́тос» превратилось в слово, означавшее: «обычный порядок букв», «азбука». Из него получилось и наше «алфавит». Впрочем, в Греции было такое время, когда слово «альфабетос» могло звучать и как «альфавитос»: в разные времена жизни греков они один и тот же звук произносили то как «б» то как «в».

Корректно слитное написание.

Корректно слитное написание.

Да, при логическом выделении отрицания последующего признака не пишется раздельно. Написание не простой день возможно, если нужно подчеркнуть отрицание.