Слово пятибалльный пишется по правилу: на стыке основы, оканчивающейся на две одинаковые согласные, и суффикса, а также на стыке корней в сложных, но не сложносокращенных словах написание двойной согласной сохраняется. Из правила есть исключения, к ним относятся кристальный и антенка. Слово антенка входит в целую группу слов, в которой сочетание нн не сохраняется перед суффиксом к, например: манка (манная), колонка (колонна), трехтонка (тонна), оборонка (оборонный), выделенка (выделенный). Есть и другие суффиксы, перед которыми происходит упрощение сочетания нн. Полное правило см. в информационно-поисковой системе «Орфографическое комментирование русского словаря».

Написание ванная является отступлением от морфологического принципа орфографии, в соотвествии с которым следовало бы писать *ваннная (← ванн-а + -н-, суффикс прилагательного). 

Дело в том, что в русском языке "есть только две степени долготы согласных: согласные могут быть либо долгими (что на письме передается написанием двух букв, ср. касса), либо недолгими (что передается написанием одной буквы, ср. коса). Третьей степени долготы согласных не существует, поэтому написание трех одинаковых согласных фонетически бессмысленно" [Иванова В. Ф. Современный русский язык. Графика и орфография. М., 1976. С. 168-169]. Таким образом, оказывается, что написание на стыке морфем только двух согласных, хотя морфологически таких согласных должно быть три (ванна — но ванная, хотя к корню ванн- здесь присоединяется суффикс прилагательного -н-), или одной согласной, когда по морфологическому принципу должны быть написаны две (кристалл — но кристальный, финн — но финский, финка, колонна — но колонка, манная — но манка, форменный — но форменка, оперетта — но оперетка, тонна — но пятитонка), объясняется действием исторически сложившихся фонетических закономерностей русского языка.

Это сочетание пишется строчными: пятая колонна, в постановке кавычек нет необходимости.

Это разговорное выражение, поэтому в стилистически нейтральном контексте кавычки будут уместны (для выделения сочетания, принадлежащего другому стилю).