Сейчас корректным считается устойчивый оборот пеняй на себя. Вариант без предлога устаревший.
Э – междометие, запятая нужна.
Неправильно. Слова по любви имеют ограниченную сочетаемость, они употребляются в сочетаниях жениться (выйти замуж) по любви, брак по любви. Вся Россия по любви – неверно. Кроме того, правильно: на свете.
Словарного запрета нет, но, как Вы верно замечаете, такое сочетание не употребительно.
Можно опереться на общий принцип употребления частицы ни в полном академическом справочнике или на правило Д. Э. Розенталя.
«Основная функция частицы ни – усиление отрицания. Поэтому она употребляется в предложениях с отрицательным сказуемым, т. е. сказуемым, включающим частицу не или выраженным словами нельзя, нет» [Правила русской орфографии и пунктуации. Полный академический справочник / Под ред. В. В. Лопатина. М., 2006. § 77].
«1. В отрицательных местоимениях пишется:
а) под ударением – не-, например: не́кого просить, не́чему удивляться;
б) без ударения – ни-, например: никого́ не просить, ничему́ не удивляться.
2. В отрицательных местоимениях при отсутствии предлога не и ни являются приставками и пишутся слитно, при наличии предлога – частицами и пишутся раздельно (предлог ставится между частицей и местоимением, в результате чего образуется сочетание из трех слов). Например: никого – ни у кого, нечем – не с чем, никаких – ни при каких» [Д. Э. Розенталь, Е. В. Джанджакова, Н. П. Кабанова. Справочник по правописанию, произношению, литературному редактированию. М., 1999. § 47].