См. ответ на вопрос № 254046.

Да, в приведенных предложениях сочетания по Библии и по Толстому вводные, поскольку указывают на источник информации.

1. Не помню чем. Но обидела.

2. Чем – не помню. Но обидела.

Корректно: Ведь раздавленное ожерелье - это наше с тобой счастье, не состоявшееся по моей вине.

Можно опереться на общий принцип употребления частицы ни в полном академическом справочнике или на правило Д. Э. Розенталя.

«Основная функция частицы ни – усиление отрицания. Поэтому она употребляется в предложениях с отрицательным сказуемым, т. е. сказуемым, включающим частицу не или выраженным словами нельзя, нет» [Правила русской орфографии и пунктуации. Полный академический справочник / Под ред. В. В. Лопатина. М., 2006. § 77]. 

«1. В отрицательных местоимениях пишется:

а) под ударением – не-, например: не́кого просить, не́чему удивляться;

б) без ударения – ни-, например: никого́ не просить, ничему́ не удивляться.

2. В отрицательных местоимениях при отсутствии предлога не и ни являются приставками и пишутся слитно, при наличии предлога – частицами и пишутся раздельно (предлог ставится между частицей и местоимением, в результате чего образуется сочетание из трех слов). Например: никого – ни у кого, нечем – не с чем, никаких – ни при каких» [Д. Э. Розенталь, Е. В. Джанджакова, Н. П. Кабанова. Справочник по правописанию, произношению, литературному редактированию. М., 1999. § 47].

Да, хотя по-латыни не оканчивается на -ому, -ему, -цки, -ски, -ьи, тем не менее такое написание установилось именно под влиянием наречий типа по-немецки, по-английски, по-русски. В полном академическом справочнике «Правила русской орфографии и пунктуации» наречие по-латыни описывается поэтому в примечании к параграфу, где идет речь о дефисном написании наречий с приставкой по-, оканчивающихся на -ому, -ему, -ски, -цки, -ьи.

Оба варианта корректны, чаще пишут с запятой.

В значении "после" верно: по прибытии, по истечении срока.

Фраза возможна, если контекст располагает к иронии, языковой игре.