Правильно: вышел из офиса, из первого отдела. Но в разговорной речи: вышел с работы.
Фамилия Бова склоняется (и мужская, и женская), это соответствует правилам. См. «8familii/">Азбучные истины».
Предлог по в значении 'после' требует предложного падежа: по выходе на работу. Сочетания такого типа обычно употребляются в канцелярской речи, в документах.
Сочетание при выходе означает 'во время выхода', ср.: при выходе из поезда не забывайте свои вещи.