Верно: в Республике Дагестан.
Воспользуйтесь, пожалуйста, ресурсом «Проверка слова».
Склонять название Хаджалмахи не следует.
Да, при неофициальном употреблении (например, в тексте газетной статьи) верно написание строчными: глава республики предложил, глава Дагестана положительно охарактеризовал... Прописная буква нужна, если полное название должности используется в официальном тексте.