Наличие формы в И объясняется следующим. Город Санкт-Петербург был основан как крепость Санктпитербурх (в честь святого Петра, небесного покровителя императора). Название было дано Петром I. Среди вариантов, встречающихся в письмах Петра Великого: Санктъпетерсъбурк (1703), Санктпитербурх (1703), Питербурх (1706), Санктпетерзбурк (1710); позже преобладают варианты с -Питер-: Санкт-ПитерБург (1714), Санктъ Питербурх (1720). В газете «Ведомости» чаще упоминается в форме Санктъпитербурх, и только с июля 1724 г. вместо Питер- начинают постоянно печатать Петер-. Очевидно, от форм с И и было образовано сокращенное Питер.
Верно: с Днем Победы. Об употреблении буквы ё см. вопрос 262358.
Правильно с пробелом: P. S.
Правильно: родился в д. Быстрице. Географическое название склоняется в сочетании со словом деревня, если род обоих слов совпадает (т. е. если название женского рода).
Правильно: об установке ограждения.
Это однокоренные слова и формы слова. Корень представлен своими морфонологическими вариантами jed- и je-.