Сейчас в значении "штраф" используется форма пени. Вариант пеня считается устаревшим.
Оба варианта корректны.
Вариант пеня, выплатить пеню (единственное число) в словарях сопровождается пометой устаревшее. Современный вариант – пени, выплатить пени.
Все три варианта возможны.
Согласный ф в этом слове произносится мягко, произношение [фэн] неправильно. О некоторых закономерностях см. в ответе на вопрос № 287206.