Если речь не идет об официальных названиях, верны оба варианта: оренбургский и оренбуржский. Но в названии области верно только: Оренбургская область.
Если имеются в виду места Оренбурга, связанные с Пушкиным, прилагательное следует писать с маленькой буквы.