Это явление можно назвать разновидностью омонимии (или, как художественный прием, паронимическая аттракция).
Пожалуйста, воспользуйтесь окном «Искать на Грамоте» на портале.
Сначала об орфографии. В современном русском языке правильным является написание через О: Кощей, Кощей Бессмертный и (о тощем старике, скряге) кощей. Но раньше правильным было написание Кащей. Сейчас этот вариант в словарях дается как устаревший.
Теперь о происхождении этого слова. Слово Кощей имеет два варианта этимологии: 1) от слова кость ('худой, тощий человек, ходячий скелет'); 2) от костить в значении 'бранить'. Поэтому согласно этимологии надо писать через О.