Кавычки излишни.
Необходимости заключать это сочетание в кавычки нет.
Для ответа на этот вопрос нужен более широкий контекст. Само по себе соседство слов только поскольку возможно, ср.: ...В создании героев романа или трагедии огромную роль играет пережитое автором, им осознанное — ведь внутренний мир других людей понятен писателю, только поскольку ему знакомы и, следовательно, понятны те или иные страсти. И. Эренбург, Люди, годы, жизнь. Лужиным он занимался только поскольку это был феномен, — явление странное, несколько уродливое, но обаятельное, как кривые ноги таксы. В. Набоков, Защита Лужина.
Возможен такой вариант: Вопрос – ходить или не ходить – не стоит. Д. Э. Розенталь формулировал правило так: если несогласованное определение, выраженное инфинитивом, находится в середине предложения, то оно обособляется при помощи тире. Ср. с примером Д. Э. Розенталя: …Каждый из них решал этот вопрос — уехать или остаться — для себя, для своих близких (Кетл.).
И в винительном падеже, и в предложном пишется е: уехать в Заполярье, живу в Заполярье. Правило простое: слова среднего рода на -ье имеют в предложном падеже окончание -е: в ущелье, о варенье. В отличие от них слова среднего рода на -ие имеют в предложном падеже окончание -и: в сопровождении, в молчании, в подразделении.
Рады помочь!
Запятая перед неповторяющимся союзом или не ставится, если союз соединяет однородные члены предложения: Решил завести кошку или собаку. Если же союз или соединяет части сложносочиненного предложения, запятая перед ним ставится: Он должен уехать, или я погибла! Однако в приведенном Вами примере запятая не нужна, т. к. части сложносочиненного предложения объединены вопросительной интонацией.