Корректно: петергофский Большой дворец, Большой дворец Петергофа.
См. о предлоге ВО ответ № 233445. Слова двор и дворец сочетаются как с ВО, так и с В: войти во двор, превратить в двор, явиться во дворец, бросить в дворец. Сочетания с СО: уехать со двора, начать осмотр с двора.
В словаре «Грамматическая правильность русской речи» Л. Граудиной, В. Ицковича, Л. Катлинской о фамилиях, совпадающих по звучанию с нарицательными существительными и заканчивающимися на согласный (Гусь, Волк, Ремень и под.), говорится следующее: «...фамилии грамматически колеблются. В словосочетаниях типа гражданин Гусь, инженер Волк, журналист Ремень в книжной речи такие фамилии склонять не принято: гражданину Гусь, инженером Волк, о журналисте Ремень. В иных случаях возможны склоняемые формы: сказать Гусю, вместе с Волком, поздороваться с Ременем». Таким образом, решение о склонении принимает носитель фамилии.