Во втором случае слово ведь явно играет роль союза, связывающего части сложного предложения. В первом случае оно, возможно, тоже выполняет функцию союза (вообще говоря, союз может связывать предложения в составе текста), но для точного ответа не хватает предшествующего контекста.
Верно: По теме исследования была опубликована 21 научная работа.
Указанная запятая ставится между частями сложного предложения.
Запятая не нужна.
После слова "праздник" и после "прекрасный" не нужно ставить запятую.
Слово осень может быть написано с большой буквы в стилистических целях (если подчеркивается особый смысл, подчеркивается значимость наступления осени) или если оно используется, например, как название персонажа художественного произведения. В остальных случаях оснований для большой буквы нет.
Слитное написание корректно.