Верно через дефис: экс-глава ФСИН.

Недопустимо слитное или дефисное написание с приставкой или первой частью сложного слова, если вторая часть содержит пробел, т. е. представляет собой сочетание слов. В этих случаях слитные или дефисные написания, рекомендуемые основными правилами, должны заменяться раздельными. Например, следует писать: лже доктор наук, псевдо произведение искусства, теле круглый стол, мини стиральная машина; экс Советский Союз, псевдо Ван Тог, пол рабочего дня, пол столовой ложки, пол Московской области.

При этом в сочетаниях экс-сотрудник ЦРУ, экс-глава ФСИН вторая часть сложного слова представлена одним словом (сотрудник, глава), т. е. возможно самостоятельное употребление сочетаний экс-сотрудник, экс-глава. Таким образом, правило о замене дефиса пробелом не распространяется на эти слова.

Такого органа – Федеральная служба юстиции – в нынешней структуре федеральных органов исполнительной власти Российской Федерации не существует. Есть Министерство юстиции Российской Федерации (Минюст России), в структуре которого – Федеральная служба исполнения наказаний (ФСИН России) и Федеральная служба судебных приставов (ФССП России).

Ни один из органов исполнительной власти России не имеет сокращения ФСЮ. Возможно, речь идет не о властной структуре? Или о властной структуре в какой-либо другой стране (не России)?