См. здесь.
Правильно: по Дербенту, по городу Дербенту, по г. Дербенту.
Верно: задолженность по пене. В дательном падеже слово пеня имеет окончание -е. Обратите внимание, что в значении 'штраф' это слово обычно употребляется во множественном числе, корректный вариант: задолженность по пеням.
Правило распространяется на наречия, образованные из сочетания предлога по и полных прилагательных или притяжательных местоимений (по-хорошему, по-моему, по-всякому). Один – особое слово, которое «совмещает в себе формальные признаки прилагательного с функциями количественного числительного» (определение академической «Русской грамматики»). Надо запомнить, что сочетание по одному в знач. 'поодиночке, следуя друг за другом' пишется раздельно: Кто хотит на Колыму – выходи по одному! Но: сделать сначала по-одному, затем по-другому.
Псевдоним – это вымышленное имя, которое человек берет себе сам. А прозвище человеку дают другие люди. Обычно и псевдонимы, и прозвища пишутся с прописной буквы (или, если слов несколько, пишется с прописной буквы только первое слово: Человек без селезенки, Брат моего брата – псевдонимы Чехова).
См. «Горячую десятку вопросов».
Запятые расставлены верно.
В значении "после окончания" правильно: по окончании.