Правильно: история Древнего мира и Средних веков.
Вы привели пары слов, а не форм слов. Названные Вами суффиксы словообразующие. Обратите внимание: в слове косыночка суффикса -очк- нет. Косыночка образуется от косынка, к основе косынк- прибавляется суффикс -к-, при этом в основе происходит чередование к/ч и перед ч появляется беглая гласная о. Однако в начальной школе обычно не разграничивают суффикс -очк- и сочетание очк, появившееся на стыке морфем, так как для выбора написания различие это никакого значения не имеет, а объяснение сложных морфонологических явлений может запутать ребенка.
Оба слова состоят из корня и нулевого окончания.
Правильно: испокон веков. Слово испокон происходит от древнерусского поконъ 'начало', того же корня, что искони 'вначале', конец. О родстве слов начало и конец см. в ответе на вопрос № 208821.
Существительное выступ образуется от глагола выступить. Способ образования в школе чаще называют бессуффиксным.
Не пришей кобыле хвост (сниженное) — о ком-, чём-либо ненужном, неуместном, не идущем к делу.