Оба варианта правильны.
Этот вопрос Вы можете перенести в форум "Курилка": http://www.gramota.ru/forum/kurilka/
Правильно: литер (документ) и литера (буква).
Это неустоявшееся выражение. Более того, это выражение лексически избыточное.
Если Вы послушаете, как произносятся все перечисленные Вами формы слова лисий, то услышите, что во всех есть звук [й]. Значит, этот звук и является конечным звуком основы прилагательного. Но он передается буквой й только в начальной форме, потому что он стоит в конце. В других формах звук [й] и последующий гласный окончания передаются буквами е, и, я.