Корректным будет раздельное написание (т. е. с пробелами).
Запятая ставится.
Вы написали верно.
Это предложение особого типа. Вот что говорится о нем в параграфе 78 полного академического справочника «Правила русской орфографии и пунктуации» под ред. В. В. Лопатина:
Конструкции с частицей не входят в восклицательные или вопросительно-восклицательные предложения, в которых часто присутствует частица только, напр.: Кто не знал этого человека! Что только не восхитило его на этой необычной выставке! Кому не известен этот дом? Чего в мой дремлющий то- гда не входит ум? Как не любить родной Москвы! Где только не приходилось ему бывать! Куда он только не обращался!
Такие предложения — по форме отрицательные — по содержанию всегда содержат утверждение. (Кто не знал этого человека! означает 'все знали этого человека'; Где только не приходилось ему бывать! означает 'ему всюду приходилось бывать').
В этом восклицательном предложении содержится частица не: Да с кем они только не танцевали!
Нет, после слов тем не менее запятая не ставится.
