У слова гора было значение ‘верх’. Отсюда наречие горе́ ‘вверх’, слова горний ‘находящийся в вышине’, горница ‘комната в верхнем этаже’. Тем самым идти в гору значит ‘двигаться вверх’. Переносное значение выражения лезть в гору ‘добиваться благополучия, служебного продвижения’ фиксируется в XVIII веке. Более позднее распространение фразеологизма идти в гору В. В. Виноградов связывал с проникновением его в разговорную речь из карточного жаргона. Подробнее см. в статье Виноградова.
Форма "у подножья" не будет ошибочной (хотя она и не основная). Ср.: Он пребывал как бы рядом, но наверху, на своей вершине, а они орали у подножья горы (Д. Гранин, Зубр).
Оба варианта верны. В составе устойчивого выражения: надеяться на русский авось.
В сочетании с географическим термином гора названия женского рода склоняются: на горе Зеленой. Названия мужского рода остаются в начальной форме: у горы Эльбрус.
Нейтральный стиль: 5-я ул. Соколиной горы, ул. Металлургов.
Написание без кавычек корректно.
См. «Учебник ГРАМОТЫ». Правило касается корней гор-гар со значением, связанным с горением.
Корректны оба варианта.
Сказать можно, но это грамматически неправильно.