См. склонение прилагательных в учебнике Е. И. Литневской.
Запятые поставлены Вами правильно. Дополнительные знаки препинания в предложении не требуются.
"Висячим" называется предлог, расположенный в конце строки и связанный по смыслу с самостоятельным словом в начале следующей строки. Правила правописания ничего не говорят о таком предлоге, правила типографики (оформления печатных текстов) рекомендуют перенос висячих предлогов на новую строку.
Все зависит от того, какие слова используются после предлога: получить письмо от друга, но из налоговой инспекции, с Украины и т. д.
К сожалению, не можем Вам помочь.
В приведенном Вами предложении возможна постановка как запятой, так и тире.
Верно: библиотека Российской академии наук (о неавтономном учреждении) и Библиотека Российской академии наук (об автономном учреждении).
