В конструкции стиль ампир слово ампир является несклоняемым прилагательным, а в конструкциях типа в стиле французского ампира, поклонник ампира и т. п. — склоняемым существительным мужского рода.

Спасибо за вопросы!

Вы указываете на одно из самых трудных и противоречивых мест в русском правописании. Сперва о кавычках. Принципиальной разницы между сочетаниями профессия "сварщик" и специальность "математика" нет, такие сочетания желательно писать единообразно. (Впрочем, все же есть одно различие: можно составить грамматически корректное согласованное сочетание профессия сварщика и нельзя составить согласованное сочетание специальность математики; это уже трудность в области грамматики, а не в области орформления текста, хотя последнее проистекает из первого).

А как единообразно - давайте исходить из складывающейся практики письма. Если приложение - изменяемое, склоняемое слово, то в случае падежного рассогласования и возникают кавычки, которые выступают именно как графический знак рассогласования. Поэтому на практике возникают такие сочетания, как по специальности "математика", по профессии "сварщик" и т. п. Сочетания же стиль + люкс, ретро, поп, ампир, барокко и другие - это сочетания с неизменяемыми приложениями, для того чтобы дополнительно отметить эту неизменяемость, кавычки не нужны.

Это полярные случаи. Названные же Вами примеры - промежуточные между двумя полюсами, поэтому в них и наблюдается оформительский разнобой.

Теперь о запятых. Корень проблемы - в том, что считать главным, а что зависимым словом в словосочетании, ведь словосочетание подразумевает подчинительную связь между своими частями, между входящими в него словами. Таким образом проблема вновь выходит из чисто пунктуационных рамок и передвигается в сферу грамматики, то есть устройства текста, его структуры, логических отношений между словами. А эти логические отношения выстраиваются автором текста, автором мысли, сообщения. И поэтому конечное решение - при выборе одного из возможных (подчеркнем: возможных, т. е. логически непротиворечивых) вариантов - за автором текста.

Корректно без кавычек.

Конечно же, нельзя упрощать язык – например, признавать именами прилагательными только такие слова, которые изменяются по адъективному склонению (бежевый, бордовый). Нет, к разряду имен прилагательных относятся и неизменяемые слова беж, бордо  и многие-многие другие (ажур, аллегри, ампир, апаш, аплике, банту, барокко и т. д.) Это несклоняемые прилагательные с нулевыми флексиями, достаточно подробно они описаны в академической «Русской грамматике» 1980 года.

Вадим, склоняемость / несклоняемость не есть основной признак для классификации частей речи. Главный признак слов, объединяемых в одну часть речи, – наличие обобщенного значения, абстрагированного от лексических и морфологических значений всех слов данного класса. У имен прилагательных такое значение – выражение непроцессуального признака предмета: апельсины цвета (какого?) беж, юбка (какая?) мини и т. п.  Да, большинство прилагательных выражают это значение в словоизменительных морфологических категориях рода, числа и падежа – но далеко не все.