Орфографический словарь
Большой толковый словарь
Следует писать с большой буквы (как и фазы Луны).
Правильно: Я гуляю по Луне. Слово Луна употреблено как название космического объекта.
Правильно: южный полюс Луны. Дело в том, что на Земле полюса обрели названия — Южный и Северный. Названия пишутся с заглавной буквы, такое написание устойчиво и закреплено в правилах и словарях. В астрономии земные названия стали употребляться по отношению к другим крупным космическим телам — планетам и спутникам. При обозначении множества однородных объектов названия терминологизировались, что отразилось на их написании. Приведем несколько примеров:
У верхнего края снимка в середине виден кратер Пири диаметром 73 км, внутри которого расположен северный полюс Луны (Путешествие к Луне. Ред.-сост. В. Г. Сурдин. М., 2011).
Приборы аппарата обнаружили неподалеку от южного полюса Марса залежи замороженного CO2 объемом около 12 тысяч кубических километров (Знание — сила. 2011 // Национальный корпус русского языка).
Спустя 9 минут разгонный блок «Фрегат» со станцией «Луна-25» отделился от третьей ступени ракеты и вышел на околоземную орбиту. Через несколько дней должна произойти мягкая посадка в районе южного полюса Луны (Телеграм-канал Московского планетария. Сообщение от 11.08.2023).
С большой буквы Солнце пишется только как астрономический термин, в значении 'центр Солнечной системы': вращение Земли вокруг Солнца. При употреблении в нетерминологическом значении (восход солнца, смотреть на солнце), в переносных значениях (ты мое солнце), а также в значении 'центр других планетарных систем' солнце пишется с маленькой буквы.
Аналогично Луна пишется с большой буквы только как астрономический термин: изучение Луны, полеты на Луну. В нетерминологическом значении (восход луны, серп луны) и в значении 'спутник любой планеты' (две луны Марса) правильно написание с маленькой буквы.
В этом случае луна пишется со строчной буквы.