Правильно: проживать на такой-то улице, идти по улице.
Мужская фамилия Шульц склоняется (Шульца, Шульцу и т. д.), женская – нет.
Корректно: дома на Советской улице.
Что именно ПО или НА улице Бабушкина? Идти - по улице, жить - на улице.
Корректно: по Первой улице.
Правильно: на Арбате, на улице Арбат.
Правильнее: на Московской улице.
Правильно через тире: дальше – больше. См.: Русский орфографический словарь РАН / Под ред. В. В. Лопатина, О. Е. Ивановой. – 4-е изд., испр. и доп. – М., 2012.