Все три выражения являются правильными. Отметим отличия, на которые и Вы обратили внимание. Оборот с предлогом по используется в качестве официального наименования территориального подразделения УМВД, а следовательно, предпочтителен в текстах, где важна номинативная точность. В двух других случаях сфера употребления оборотов намного шире, не стандартизирована, выбор конструкций может диктоваться смысловыми особенностями высказываний и стилистическими свойствами текстов.

Правильно: нефрологическое отделение для детей Климовской городской больницы № 1 (но с родовым словом: нефрологическое отделение для детей МБЛПУ «Климовская городская больница № 1»).

Владимирская – первое слово официального названия организации? Если да, то оно должно быть написано с прописной: Владимирская областная общественная организация «Ассоциация родителей детей-инвалидов "Свет"».

Да, требуется склонение, в том числе и при употреблении названия в функции приложения.

Оба варианта корректны, однако более употребительна форма ед. ч.