Правильно: на улице.
Да, в приведенных предложениях сочетания по Библии и по Толстому вводные, поскольку указывают на источник информации.
В сочетании с предлогом по в значении "после" существительное употребляется в форме предл. п.: по окончании встречи.
См. в «Непростые слова».
См. в «Непростых словах».
В современном русском литературном языке глагол плавать употребляется в том числе и в значении 'перемещаться по поверхности воды или в воде с помощью специальных приспособлений, устройств, двигателя (о судне) (о движении повторяющемся или о движении в разных направлениях, туда и обратно)', однако в значении 'будучи членом экипажа какого-л. судна, находиться на нём во время плавания' нормативен глагол ходить (ходить боцманом на сухогрузе, ходить матросом на речном теплоходе).
Обе запятые нужны.
В значении "после окончания курса" верно: по окончании. Если сочетание употребляется в другом значении, то верен второй вариант.
См. ответ 250899.
Возможны оба варианта.
