В общих руководствах по правописанию для подобных названий правила нет. Слитное, раздельное, дефисное написание иностранных географических названий подчиняется особым правилам, их называют правилами русской передачи географических названий, и они разные для разных языков или групп языков. Но Вы правы в том, что части иностранных названий по-русски пишутся, как правило (а может быть, и всегда), через дефис. Полагаем, что на эту тенденцию нужно ориентироваться и при написании вымышленных названий. 

Название города Йошкар-Ола склоняется, поэтому корректно: города Йошкар-Олы.

Подобные сложные наименования, как правило, остаются несклоняемыми. Только некоторые (наиболее известные) топонимы такого типа подчиняются общему правилу: в пишущихся через дефис иноязычных топонимах склоняется только последний компонент. Вот примеры из «Словаря собственных имен русского языка» Ф. Л. Агеенко:

Аньер-сюр-Сен, Аньер-сюр-Сена [сэ] (гор., Франция)

Витри-сюр-Сен [сэ], нескл. (гор., Франция)

Шалон-сюр-Сон, нескл. (гор., Франция)

Камаре-сюр-Мер [рэ, мэ], нескл. (гор., Франция)

Рошфор-сюр-Мер [мэ], нескл. (Рошфор) (гор., Франция)

Трувиль-сюр-Мер, Трувиль-сюр-Мера [мэ] (Трувиль) (гор., Франция)

Конде-сюр-Нуаро [дэ], нескл. (Конде) (гор., Франция)

Общая рекомендация может быть такой: если название малоизвестное и не зафиксированное в словарях, лучше не изменять его по падежам.

Правильно: в городе Нью-Йорке, в штате Нью-Йорк. Топонимы обычно не склоняются в сочетании с родовым словом штат. А вот в сочетании с родовым словом город топоним склоняется, если он русского, славянского происхождения или представляет собой (как в рассматриваемом примере) давно заимствованное и освоенное наименование. Такие названия можно считать исключениями из процитированного Вами правила (статья дополнена этим примечанием).

См. в «Письмовнике».