Сочетаемость предлогов в и на с определенными словами обусловлена традицией. Д. Э. Розенталь пишет, что в выражении на почту употребляется предлог на, т. к. первоначально понятие «почта» не связывалось с представлением о закрытом помещении: почта когда-то была на почтовой станции, на которой содержали ямщиков и держали лошадей.

Не обособляются деепричастия, которые являются обстоятельствами образа действия, напр.: Поезд шёл не останавливаясь («безостановочно»); Она говорила об этом улыбаясь («говорила с улыбкой»). В Вашем предложении-заголовке деепричастие не обозначает образ действия, оно указывает пусть и на парадоксальное по смыслу, но все же действие: хотя я ухожу, но при этом остаюсь. Так что запятую нужно поставить. 

Правильно именно на почту. Употребление предлогов на и в во многих случаях объясняется традицией. Употребление предлога на в сочетании с существительным почта объясняется тем, что первоначально понятие «почта» не связывалось с представлением о помещении или здании: почта когда-то была на почтовой станции, на которой содержали ямщиков и держали лошадей (ср.: на станцию).

Нормативна, хотя и малоупотребительна форма деепричастия приберёгши: ...никогда ни в каком случае, даже подчас приберегши то, что досталось ему на долю, продавал его потом тем же самым, которые его угощали... (Н. В. Гоголь. Мёртвые души); ...с восторгом писали публицисты французской "министерской" газеты "Тан" 24 декабря 1938 года, приберегши эту весть для сочельника, чтобы порадовать к празднику своих читателей (Е. В. Тарле. СССР — мировая держава). 

Вот текст стихотворения по книге «Прямая речь. Мысли великих о русском языке» (М., 2007):

Я люблю свой родной язык!
Он понятен для всех,
Он певуч,
Он, как русский народ, многолик,
Как держава наша, могуч.
Хочешь — песни, гимны пиши,
Хочешь — выскажи боль души.
Будто хлеб ржаной, он пахуч,
Будто плоть земная — живуч.
Для больших и для малых стран
Он на дружбу,
На братство дан.
Он — язык луны и планет,
Наших спутников и ракет.
На совете
За круглым столом
Разговаривайте на нем:
Недвусмысленный и прямой,
Он подобен правде самой.

В публикациях в интернете, в том числе в книгах, по которым ведется поиск в Гугл-книгах, тот же текст содержит еще две строки:

Он, как наши мечты, велик,
Животворный русский язык!

Сегодня нормативно: геологоразведка, но геолого-разведочный. См. ответ на вопрос № 281277.

Рекомендуем такое пунктуационное оформление: 

— Ой, ни-ни-ни-ни-ни, — занининикала бабуля, — не стоит такого хотеть, министром быть — с ума сойдёшь, столько всего нужно знать и уметь, это вам не в куклы играть. (Тут ба на секундочку задумалась.) Это очень нервная, ответственная работа.

Как и было сказано в ответе на вопрос 306062, специальных рекомендаций по поводу употребления предлогов в или на с наименованием производственный комплекс нам найти не удалось. Так ориентироваться можно либо на частотность употребления того или иного варианта, либо на общие правила употребления этих предлогов. На выбор предлога влияет семантика управляющего слова и значение всего сочетания. Ср.: поехал на вокзал – вошел в вокзал, пошел на студию – вошел в студию (сказывается соответствие приставки в- и предлога в). В выражениях на почте, на заводе, на фабрике, на стадионе употребление предлога на объясняется тем, что первоначально понятия «почта», «завод», «фабрика», «стадион» не связывались с представлением о помещении или здании: почта когда-то была на почтовой станции, на которой содержали ямщиков и держали лошадей; завод, фабрика, стадион могли занимать открытую территорию и состоять из нескольких сооружений (ср.: в мастерской, в цехе, в спортзале связывалось с представлением о закрытом помещении).Употребляются сочетания: на избирательном участке, но: в полицейском участке, на полевом стане, но устарелое: в военном стане, в агитпункте, но: на наблюдательном пункте. 

В интересующих Вас случаях мы бы всё же рекомендовали использовать предлог в: В производственном комплексе "Родина" прошла встреча с ветеранами; Приглашаем на работу в ПК "Родина".