Названия улиц в сочетании с родовым словом улица обычно склоняются, если название – женского рода: на улице Волхонке, на улице Таганской, на улице Молодежной, на улице Московской. Названия улиц мужского рода обычно не склоняются: на улице Балчуг, по улице Кузнецкий Мост; несклонение здесь объясняется тем, что род обобщающего нарицательного слова (улица) и род топонима не совпадают.
Разнобой в предыдущих ответах устранен.
Правильнее: на Московской улице.
Правильно: на улице Перерве.
Склоняется только слово улица.
Запятая не нужна.
Стилистически нейтрально: идти по улице; дом, расположенный на улице...; жительница дома, расположенного на улице... Вариант дом по улице – канцеляризм.
Правильно: по Школьной улице. В официально-деловом и канцелярском стиле могут быть также употреблены предлагаемые Вами варианты.