Терминологически, конечно, это неудачное сочетание. Но в бытовом употреблении - вполне возможно.

Правильно со строчной.

Слово пятибалльный пишется по правилу: на стыке основы, оканчивающейся на две одинаковые согласные, и суффикса, а также на стыке корней в сложных, но не сложносокращенных словах написание двойной согласной сохраняется. Из правила есть исключения, к ним относятся кристальный и антенка. Слово антенка входит в целую группу слов, в которой сочетание нн не сохраняется перед суффиксом к, например: манка (манная), колонка (колонна), трехтонка (тонна), оборонка (оборонный), выделенка (выделенный). Есть и другие суффиксы, перед которыми происходит упрощение сочетания нн. Полное правило см. в информационно-поисковой системе «Орфографическое комментирование русского словаря».

В этом случае для большой буквы нет оснований.

На Ваш вопрос мы попросили ответить Ольгу Евгеньевну Иванову, ведущего научного сотрудника Института русского языка им. В. В. Виноградова РАН, одного из разработчиков «Академоса». Вот что написала нам Ольга Евгеньевна:

Проблема здесь – различение наречия (пишется отдельно от второй части) и первой части сложного прилагательного. Этот вопрос до сих пор не решен, потому что нет никаких очевидных формальных признаков, по которым можно четко разграничить сложное прилагательное с «первой наречной частью» и словосочетание наречия с прилагательным (в том числе отпричастным). Данный материал во всем его необозримом объеме является словарным, то есть определяется не правилом (формально-то оно есть: наречие пишется отдельно), а по словарю, при этом написание в словаре отдельных слов/словосочетаний нередко индивидуально и устанавливается на основании многих критериев.

Так, очень важный критерий для выявления наречия – оно указывает на актант качественного или отпричастного прилагательного (на объект или субъект глагольной группы): архитектурно выверенный проект – в проекте выверена архитектура, архитектурная составляющая (объект). У нас: индивидуально-ориентированный, предметно-ориентированный, комплексно-ориентированный и системно-ориентированный – по данному критерию это тоже наречия, предшествующие отпричастному прилагательному (ориентированный на индивидуальное восприятие, обучение, на учебный предмет, на целую группу предметов, явлений, процессов, на систему или системность чего-либо). Но здесь вступает в действие другой критерий, а именно терминологичность данных сочетаний и, соответственно, закрепленность их употребления и написания в определенной сфере (здесь: образование, педагогика, методика обучения), где они пишутся – с подавляющим преимуществом – дефисно.

Этот второй критерий – терминологичность – делает данные сочетания исключениями из раздельного написания. Кроме того, из сферы раздельного написания, которое можно было бы предположить, данные слова выводит также отсутствие в текстах актуализаторов собственно наречного значения для первой части (указание на степень проявления качества: нельзя сказать *очень, сильно, глубоко, интенсивно индивидуально-ориентированное обучение, системно-ориентированное проектирование, комплексно-ориентированная модель) и отсутствие глагольных признаков времени, места, протяженности, актуальности действия или представления о деятеле, субъекте действия, наличия дополнения для второй отпричастной части. Поэтому данные единицы и были включены в словарь в дефисном написании, исходя из всех этих соображений и при учете реального функционирования в современных текстах.

Добавим, что подробно об этой проблеме написано в работе Е. В. Бешенковой и О. Е. Ивановой «Теория и практика нормирования русского письма», опубликованной на сайте Орфографической комиссии: https://www.ruslang.ru/doc/ortho/BeshenkovaIvanova-2016-normpisma.pdf (стр. 190–210).