Корректно: Банк возвращает исполнительный лист, выданный Гагаринским районным судом (лист — какой? — выданный).

Правильно здесь: не заверенную.

Такое употребление возможно и зафиксировано словарями. Например, в «Большом толковом словаре» под ред. С. А. Кузнецова в статье живой отражены особое значение этого слова, свойственное только краткой форме, 'существует, имеется' и обусловленная этим значением сочетаемость: жив чем-либо, для чего-либо (черпает силу в чем-либо; существует благодаря чему-либо; способен на что-либо, к чему-либо). Вот несколько примеров: ...Мы все живы любовью народной [А. А. Фадеев]; Жив великой тоской по родине… жив блаженной верой в возвращение домой, в воскресающую Россию [А. И. Куприн]; ...Громадное большинство эмиграции живо надеждой на скорое возвращение... [С. Я. Эфрон].

Если имеется в виду "когда надобность миновала", верно: по миновании.

Правильно написание со строчной буквы: Оборона польской почты.

Правила таковы. В официальных составных названиях органов власти, учреждений, организаций и т. п. с прописной буквы пишется первое слово названия и входящие в состав названия имена собственные. Названия учреждений, организаций, не являющиеся собственными именами, пишутся со строчной буквы. Написание с прописной буквы Польская почта означало бы, что речь идет о самой компании, объединяющей в себя все филиалы и объекты почтовой связи на территории всей страны (ср.: Почта России). Правильно поэтому: отделение Польской почты в Гданьске было открыто... Но поскольку в сочетании оборона польской почты имеется в виду не компания, а лишь одно из отделений почтовой связи, верно со строчной. Ср. также: Сбербанк (в значении: Сберегательный банк Российской Федерации), но: сбербанк (обиходное название местного отделения Сбербанка).

Ваши предположения верны: возврат и возвращение — однокоренные слова, второе можно проверить первым. 

Корректно с запятой: вернулся раньше, чем ожидали. Здеь сравнивается реальное время возвращения с ожидаемым. 

Да, предлог по употребляется с предложным падежом при указании действия, события, после которого что-либо совершается: по приезде друга, по возвращении из отпуска, по окончании спектакля.

Правильно: по прибытии поезда. Предлог по в значении 'после чего-либо' употребляется с предложным падежом: по завершении, по приезде, по прибытии, по возвращении  и т. д.