Такое употребление неверно. См. также «Непростые слова».
Восклицательный знак в данном случае заимствован из набора символов Международного фонетического алфавита, где он обозначает особый щелкающий звук, который свойствен фонетической системе языка этого племени и произносится, в частности, в самом названии племени. В научной литературе встречается и другой способ передачи фонетического своеобразия этого названия — къхунг. В неспециальных текстах следует придерживаться написания кунг, которое отвечает принципам и нормам русского письма.
Слова "при этом" не используются как вводные.
Корректно: Мае (это существительное склоняется так же, как земля). Подробнее см. в пособии Е. И. Литневской (раздел «Склонение существительных»).
Пояснительная конструкция (а сочетанием за Армению или за Азербайджан поясняется местоимение за кого) может отделяться как запятой, так и тире. Тире предпочтительно.