Правильно: экс главный редактор, но экс-министр обороны.

Подробные правила находим в информационно-поисковой системе «Орфографическое комментирование русского словаря», разработанной в Институте русского языка им. В. В. Виноградова РАН.

Приставка экс... со значением 'бывший' присоединяется дефисом, например: экс-губернатор (экс-губернатор области), экс-депутат (экс-депутат областного собрания), экс-чемпион (экс-чемпион мира), экс-советский, экс-чемпионский. Дефис сохраняется и в том случае, когда приставка присоединяется к слову, имеющему собственное дефисное написание, напр.: экс-вице-мэр, экс-вице-президент, экс-премьер-министр.

Приставка пишется раздельно со вторым компонентом, представляющем собой атрибутивное сочетание, напр.: экс первый вице-премьер, экс первая леди, экс первая ракетка мира (в теннисе).

А что делать, если экс присоединяется к сочетанию слов, первое из которых – не прилагательное, а существительное? Если это устойчивое сочетание слов, то экс пишется раздельно, напр.: экс доктор наук, экс кандидат наук. Если сочетание слов более свободное, то пишется дефис по общему правилу, напр.: экс-глава компании, экс-заместитель директора, экс-муж Петровой.

Верно через дефис: экс-глава ФСИН.

В качестве ответа на Ваш вопрос публикуем рассуждения о написании частей экс, лже, псевдо консультанта нашего портала, члена Орфографической комиссии РАН С. В. Друговейко-Должанской.

Вопрос действительно непростой. 

В номинации лже доктор наук элемент лже относится именно к сочетанию слов доктор наук (лже-доктор означало бы иное: лже-врач). Так и в случаях, когда часть экс- присоединяется к словосочетанию (например, генеральный директор, главный врач), корректно только раздельное написание: экс генеральный директор, экс главный врач.

В случаях же типа экс(-)президент ЮАР, экс(-)начальник станции, экс(-)директор радио, экс(-)глава ЦРУ, экс(-)главврач больницы и т. п. весьма трудно определить, относится часть экс- лишь к первому слову или ко всему сочетанию. Отсюда возникает и разнобой в написании подобных сочетаний. См., например, в практике печати: 

• Подробный анализ документов, скомпонованных из известных утечек от экс сотрудника ЦРУ и АНБ Эдварда Сноудена, был опубликован в парижской газете Le Monde с жесткой редакционной статьей. [Олег Шевцов, Париж. Обама пообещал французам пересмотреть методы прослушки // Известия, 2013.10.22]; 

• На запрос "Труда" в СБУ о возможной причастности работников спецслужб к предполагаемым преступлениям, нам ответили: "Экс-сотрудники КГБ СССР к происходящему отношения не имеют". [Прокопчук Станислав соб. корр. 'Труда'. У АСПИРАНТА РАЗЫГРАЛОСЬ ВООБРАЖЕНИЕ // Труд-7, 2002.07.31]

На наш взгляд, при выборе дефисного либо раздельного написания исходить следует из того, возможно ли самостоятельное употребление слов с элементами типа экс-, псевдо-, лже- и т. п. без последующего дополнения. Номинации экс-президент, экс-начальник, экс-директор, экс-глава, экс-главврач имеют вполне самостоятельное содержание (тогда как, например, вычленить из сочетания псевдо произведение искусства отдельное слово *псевдопроизведение совершенно невозможно). Поэтому в таких случаях мы бы рекомендовали дефисное написание.