Идти по мосту – дательный падеж (по чему?).
Оба варианта возможны.
Правило распространяется на наречия, образованные из сочетания предлога по и полных прилагательных или притяжательных местоимений (по-хорошему, по-моему, по-всякому). Один – особое слово, которое «совмещает в себе формальные признаки прилагательного с функциями количественного числительного» (определение академической «Русской грамматики»). Надо запомнить, что сочетание по одному в знач. 'поодиночке, следуя друг за другом' пишется раздельно: Кто хотит на Колыму – выходи по одному! Но: сделать сначала по-одному, затем по-другому.
Корректно: по Первой улице.
В значении «после концерта» правильно: по окончании концерта.
Корректно: (специалист) по ремонту квартир.
Правильно: читать по слогам и (в народной речи) читать по складам.
См. «Горячие вопросы».
Если речь идет о дне недели, то предпочтительно: по средАм.
См. в «Непростых словах».