Такое наименование не употребительно, хотя формально запрета нет.
Пишется строчными: георгиевский кавалер. Но:
Георгиевский зал (в Московском Кремле)
Георгиевский крест
Георгиевское знамя (в воинский частях)
Верно: рыцарский орден, орден, орден Святого Георгия, орден Святого Георгия, День святого Георгия, Георгиевский крест, крест Святого Георгия.
Здесь георгиевский – со строчной буквы.