Правильно написание строчными буквами и без кавычек: институты математики и радиофизики.
Названия факультетов и кафедр пишутся строчными. Институт пишется с прописной только как первое слово официального названия.
В строгой деловой письменной речи эта аббревиатура не склоняется. В разговорной речи склонение возможно.