Пунктуация верна.

Запятая не нужна.

Правильно: об Антоне Павловиче Чехове.

1. В справочниках не сформулировано правило о том, с какой буквы должна начинаться прямая речь, если она включается в текст как член предложения. Примеры приводятся разные, в частности: Это «не хочу» поразило Антона Прокофьевича; Он вспомнил пословицу «За двумя зайцами погонишься — ни одного не поймаешь» и отказался от первоначального плана; С криком «Спасайте детей!» юноша бросился в горящее здание (примечание к параграфу 50 справочника по пунктуации Д. Э. Розенталя). Вопрос остается, видимо, на усмотрение автора текста. Добавим лишь, что если с помощью знака конца предложения (восклицательного, вопросительного знака, многоточия) передается интонация прямой речи, то естественно было бы начать ее с прописной буквы, чтобы представить как законченное предложение: Братья разворачиваются и уходят, и вслед им летит громогласное «Не смейте оставлять нас здесь!». Что касается двоеточия, то оно здесь совершенно точно не нужно.

2. Слово прощай может быть представлено и как нечленимое предложение, сказанное с определенной интонацией, и как слово, поэтому корректны разные варианты его оформления.

3. После тире ставится именно точка, потому что авторские слова, стоящие после прямой речи, представляют собой отдельное предложение. См. подробнее ответ на вопрос № 325744.

Правилен второй вариант. Опереться можно на примеры в правиле о подлинных выражениях, вставленных в текст. Подлинные выражения, представляющие собой законченные предложения, начинаются с прописной буквы. 

«Подлинные выражения, вставленные в текст в качестве элементов предложения, выделяются кавычками, но двоеточие перед ними не ставится: Это «не хочу» поразило Антона Прокофьевича (Г.); Предположение дневального, что «взводный нажрался и дрыхнет где-то в избе», всё больше собирало сторонников (Ф.); Он вспомнил пословицу «За двумя зайцами погонишься — ни одного не поймаешь» и отказался от первоначального плана; С криком «Спасайте детей!» юноша бросился в горящее здание» (Розенталь Д. Э. Справочник по пунктуации для работников печати. М., 1984).

.«...Если прямая речь непосредственно включается в авторское предложение в качестве его члена, то она заключается в кавычки, знаки же препинания ставятся по условиям авторского предложения: Сказав Гричмару фразу «Легкой жизни не бывает, есть лишь легкая смерть», Крымов поймал на себе беспокойный, предупреждающий взгляд Стишова (Бонд.) (Правила русской орфографии и пунктуации. Полный академический справочник / Под ред. В. В. Лопатина. М., 2006)».

Обратите внимание: в конце предложения нужно поставить точку. 

Однажды я застал забавный диалог, один из участников которого задавался вопросом «Почему в нашем мире нет магии?». 

Возможен и другой вариант.

Однажды я застал забавный диалог, один из участников которого задавался вопросом: «Почему в нашем мире нет магии?»

Тире нужно. Тире ставится между подлежащим и сказуемым, если они выражены существительными.