Русские окончания и суффиксы отделяются от предшествующей части слова, передаваемой латинскими буквами, апострофом: Formwandlung'ом импрессионизма.

При образовании слов, начинающихся с и, при помощи приставок иноязычного происхождения гипер-, дез-, интер-, контр-, пост-, суб-, супер-, транс- буква и на ы не заменяется, напр.: гиперинфляция, дезинформация, дезинтеграция, контригра, постимпрессионизм, постинфарктный, субинспектор. Поэтому правильно: субинститут.

Разница в том, что приставки пред... и под... русские, а приставка пост... иноязычная. Буква ы вместо и пишется только после русских приставок, кончающихся на согласный (кроме приставок сверх- и меж-). После иноязычных приставок и сохраняется: гиперинфляция, дезинформация, дезинтеграция, контригра, постимпрессионизм, постинфарктный (ср. предынфарктный).