Правильно писать со строчной, но при воспроизведении дореволюционных текстов в составе официального титулования словарь В. В. Лопатина, И. В. Нечаевой, Л. К. Чельцовой «Прописная или строчная? Орфографический словарь» (М., 2011) рекомендует писать с большой буквы: Наследник Цесаревич.
Это слово склоняется, правильно: я после кесарева.