Все три выражения являются правильными. Отметим отличия, на которые и Вы обратили внимание. Оборот с предлогом по используется в качестве официального наименования территориального подразделения УМВД, а следовательно, предпочтителен в текстах, где важна номинативная точность. В двух других случаях сфера употребления оборотов намного шире, не стандартизирована, выбор конструкций может диктоваться смысловыми особенностями высказываний и стилистическими свойствами текстов.