Слово Курщина существует в русском языке и встречается в произведениях писателей XX века, например: В крутом, поголовном хмелю убирается урожай на Курщине (Ю. Нагибин. Дневник. 1954); Еще долго оставались на полях Орловщины и Курщины разбитые танки и самоходки, не так-то просто было собрать и вывезти эти махины (К. Ваншенкин. Рассказ о потерянном фотоальбоме. 1973).
Это слово представлено в словарях в двух вариантах: идея фикс и идефикс.
Постановка указанной запятой не нужна.
Это предложение особого типа. Вот что говорится о нем в параграфе 78 полного академического справочника «Правила русской орфографии и пунктуации» под ред. В. В. Лопатина:
Конструкции с частицей не входят в восклицательные или вопросительно-восклицательные предложения, в которых часто присутствует частица только, напр.: Кто не знал этого человека! Что только не восхитило его на этой необычной выставке! Кому не известен этот дом? Чего в мой дремлющий то- гда не входит ум? Как не любить родной Москвы! Где только не приходилось ему бывать! Куда он только не обращался!
Такие предложения — по форме отрицательные — по содержанию всегда содержат утверждение. (Кто не знал этого человека! означает 'все знали этого человека'; Где только не приходилось ему бывать! означает 'ему всюду приходилось бывать').
Пунктуация верна.
Если фамилия Сухомлин русская, правильно: Сухомлиным. Окончание -ом пишется только в иноязычных фамилиях на -ин: Дарвин – Дарвином, Гершвин – Гершвином.
В этом восклицательном предложении содержится частица не: Да с кем они только не танцевали!