Слово "первый" пишется строчными буквами.
Возможны оба варианта.
Правильно: в первый день по прибытии.
Дополнительные знаки препинания не требуются.
Внутри фразы - нет.
Союз между тем не выделяется запятыми подробнее см. в "Справочнике по пунктуации".
По всем примерам, связанным с обособлением деепричастий, см. соответствующую главу "Правил русской орфографии и пунктуации".
Игорь, мы согласны с Вами, что употребление буквы ё в именах собственных – это действительно проблема, в первую очередь для людей, у которых в именах и фамилиях пишется (или как раз не пишется) буква ё. Можно сказать, что в действующих «Правилах» 1956 года была в каком-то смысле заложена мина: если бы в своде четко было прописано, что в именах собственных необходимо последовательно писать ё, таких проблем бы не было. А так – в разное время паспортисты то избегали употребления буквы ё, то последовательно ставили две точки над е, в результате людям приходится доказывать, что они – это они.
На этом, по нашему мнению, проблемы, связанные с ненаписанием ё, заканчиваются. Грамотный человек в приведенной Вами фразе споткнется разве что на слове всё. Ну так правилами предусмотрено написание ё для различения все – всё. Правила также требуют писать ё в книгах для тех, кто изучает русский язык (для детей, для иностранцев). Грамотный взрослый носитель русского языка не прочитает слова веселый, летчик, серьезный и т. д. неправильно – даже если они написаны без ё. «В других языках диакритические знаки прекрасно живут» – в этой Вашей фразе ключевые слова «в других языках». Для русского языка диакритика нехарактерна, именно поэтому буква ё и вызывает споры вот уже на протяжении двух столетий.
Мы знаем, что в последних изданиях «Справочника по правописанию и литературной правке» Д. Э. Розенталя вариант в Украине зафиксирован как нормативный. Вы не первый, кто нам об этом пишет. Но представляется, что это позиция не самого Розенталя, а редакторов, переиздававших справочник уже после смерти Дитмара Эльяшевича и внесших свои дополнения (справочник датирован 2003 годом, а Д. Э. Розенталь ушел из жизни в 1994-м).
Проблема в том, что многие склонны политизировать этот сугубо языковой вопрос. Приходится вновь и вновь повторять: дело здесь вовсе не в политике (никто, разумеется, не оспаривает суверенитета Украины), а в специфике литературной нормы. Она складывается столетиями и, как мы неоднократно писали в наших ответах, не может измениться в один миг, даже вследствие каких-либо политических процессов. Для того чтобы новый вариант занял место старого, необходимы десятилетия, а иногда и те же столетия. Вот хороший пример: вариант дОговор еще полвека назад фиксировался словарями как допустимый в разговорной речи – но за это время так и не смог стать в языковом сознании «легитимным», он до сих пор воспринимается многими носителями языка как пример безграмотности. Литературная норма постоянно находится в динамике (она неизменна только в мертвом языке), но в то же время все изменения в ней происходят постепенно. В одночасье «выключить» один орфоэпический, лексический, грамматический вариант и «включить» другой нельзя.