Правильно, конечно, болтовня. Предложенная Вами проверка некорректна. В существительном болтовня суффикс -овн-, его нельзя проверять глагольным суффиксом -а- (болтать).
Общепризнанной этимологии у слова балабол нет, поэтому однозначно ответить на вопрос, почему закрепилось написание с двумя а, невозможно. Слово балабол сопоставляется с русским диалектным балабон ‘пустозвон; колокольчик’, чеш. blabol ‘болтовня’. Предполагается влияние слова баять на возможное звукоподражательное болобол, связанное с удвоением корня *bol-bol-.