Запятая факультативна.

Сочетания тренировка по боксу, тренировка по плаванию допустимы: сочетание тренировка по плаванию зафиксировано, например, в «Словаре русского языка» под ред. А. П. Евгеньевой (известном как «Малый академический словарь»).

Корректно с запятой.

Употребление корректно. Такая поговорка действительно существует (нам приходилось слышать ее в таком варианте: являются только черти), этим хотят сказать, что использование глагола являться не всегда может быть уместно. Являться в значении 'быть, представлять собой' широко употребительно в канцелярской, деловой, а также в научной речи, поэтому в живой разговорной речи, при непринужденном общении, употребление этого глагола не всегда оправданно, он может придавать словам говорящего ненужную громоздкость, тяжеловесность, официоз (например, приведенное Вами предложение в живой речи лучше звучало бы так: материал... разработан современными учеными). Но не следует воспринимать эту поговорку как категоричный запрет на употребление глагола являться, всячески избегать этого слова тоже неправильно.

Запятая нужна. Сочетание аты-баты, задающее ритм считалке, близко к междометию. Оно, как и междометие, не является членом предложения, не связано с другими словами в предложении, имеет самостоятельное интонационное оформление. Отсутствие запятой, полагаем, ошибкой является, однако не такой ошибкой, за которую следует снижать оценку в школе. 

Верно: наш министр Иванова.

Возможны оба варианта пунктуации. Компоненты вместе и плечом к плечу можно рассматривать как однородные, создающие градацию, но можно и как уточняемый и уточняющий.   

Верно, запятая нужна: она закрывает придаточную часть какой же он все-таки плохой.

Запятые не нужны, поскольку слова что хотите в этом предложении имеют значение "что угодно". Верно: Выбирайте что хотите из нашего каталога.

Слово наверняка не является вводным и не обособляется.