Да, это будет ошибкой.
При оформлении прямой речи вопросительный и восклицательный знаки, а также многоточие ставятся перед закрывающими кавычками, а точка — после них. Правила не предусматривают постановки вопросительного знака внутри прямой речи и точки после.
Это слово принадлежит к древнейшему пласту русской лексики, восходит к древнерусскому похоже звучащему слову сълнце и имеет параллели практически во всех современных славянских языках. Например, польское slonce. В статье "солнце" этимологического словаря Макс Фасмер прослеживает связь между русским солнцем, латинским sol и греческим словом Гелиос, а также указывает на соответствия с другими языками индоевропейской семьи.
В каком контексте?
Правильно: Сувалкский. Прилагательное хорошо известно еще со времен существования Сувалкской губернии в Царстве Польском.
Это выражение употребляется (часто с неодобрительным оттенком) по отношению к людям чудаковатым, необычным, резко выделяющимся среди других. Восходит к 7-й сатире римского поэта Ювенала:
Рок дает царства рабам, доставляет пленным триумфы.
Впрочем, счастливец такой реже белой вороны бывает.
