Сначала об орфографии. В современном русском языке правильным является написание через О: Кощей, Кощей Бессмертный и (о тощем старике, скряге) кощей. Но раньше правильным было написание Кащей. Сейчас этот вариант в словарях дается как устаревший.
Теперь о происхождении этого слова. Слово Кощей имеет два варианта этимологии: 1) от слова кость ('худой, тощий человек, ходячий скелет'); 2) от костить в значении 'бранить'. Поэтому согласно этимологии надо писать через О.
См. ответ на вопрос № 170868.
Это слово пишется по общему правилу: сыпаный (прил.) — сыпанный (прич.). Академический орфографический словарь фиксирует: сы́панный; кр. ф. -ан, -ана, прич. (от сы́пать). Можем предположить, что прилагательное сыпаный не зафиксировано из-за его неупотребительности. См.: Потом кисель калиновый, сыпанный сахаром [А. Ф. Вельтман. Кощей бессмертный. Былина старого времени (1833)]. Но: сыпаный чай, сыпаный табак (в значении "рассыпной").