Запятые не нужны.
См. в «Непростых словах».
Дубай - существительное склоняемое, оно изменяется по падежам так же, как, например, слово сарай. В Вашем случае следует склонять это название.
Да, в приведенных предложениях сочетания по Библии и по Толстому вводные, поскольку указывают на источник информации.
В сочетании с предлогом по в значении "после" существительное употребляется в форме предл. п.: по окончании встречи.
Корректно: Я знал по прежним годам, что, когда она грызет косу, значит, ей интересно.
Фраза корректна.
Добавим, как только найдется более или менее обоснованная версия происхождения этого выражения. Пока что все больше домыслы.
В значении «после приезда» правильно только: по приезде.
Корректно: Животные как дети: отзывчивы до умиленья.
