Да, правильно.

Это выражение встречается в литературе. Обычно оно не требует пояснений, потому что ясно из контекста. Вот несколько примеров:

«Здорово, Степка, ― скажу я. ― Дай пять… (Только не жми, а то у меня руки отекли…) [Л. Кассиль. Кондуит и Швамбрания (1928-1931)] 

Ну, старик, помиримся. Дай пять. Не хочешь? Ну и черт с тобой! До свиданья. [В. Катаев. Миллион терзаний (1930)]

Парень вынул из глубоких недр кармана руку и протянул мне. Голую, безоружную руку. ― Дай пять! ― мрачно сказал он. Я дал. ― Ты мой любимый артист! [Р. Нахапетов. Влюбленный (1998)]

Это слово выделяется только в том случае, если оно выступает как вводное.

ПРАВДА, частица, вводное слово, союз, член предложения

1. Частица. Выражает утверждение, уверенность, а также употребляется при вопросе, требующем подтверждения. Не выделяется знаками препинания.

«А мы правда думали, пропал», – сказала она. И не понять было: сожалеет или радуется. В. Астафьев, Царь-рыба. Правда ведь, папа, смешная сказка? Ч. Айтматов, Белый пароход. Но он и правда честен и верен – верит, что жив царь Николай, пишет все бумаги по-старому и клянется, что умрет с буквой «ять». М. Пришвин, Мирская чаша. В этом предложении правда не надо ставить запятую?

2. Вводное слово. То же, что «однако, тем не менее, все же». Выделяется знаками препинания, обычно запятыми. Подробно о пунктуации при вводных словах см. в Приложении 2.

Наказано было, правда, старухе, когда не сможет или занеможет, обращаться за помощью к соседке Вере, но до этого еще не дошло, Дарья справлялась сама. В. Распутин, Прощание с Матерой. Вы очень похожи на Сашенькиного мужа... Там много ваших фотографий... Все, правда, размножены с одной... Ю. Семенов, Отчаяние. Народу, правда, не шибко много было. В. Шукшин, Горе.

Вводное слово «правда» также иногда употребляется в значении «верно, в самом деле».

«Я не знаю, – отвечал Вронский, – отчего это во всех москвичах, разумеется исключая тех, с кем говорю, – шутливо вставил он, – есть что-то резкое. Что-то они всё на дыбы становятся, сердятся, как будто всё хотят дать почувствовать что-то...» – «Есть это, правда, есть...» – весело смеясь, сказал Степан Аркадьич. Л. Толстой, Анна Каренина.

3. Союз со значением уступки (обычно в начале предложения или части сложного предложения). То же, что «хотя и, однако, но». Вопреки пунктуационным правилам союз «правда» обычно выделяется запятыми, сближаясь по значению с вводным словом.

С тех пор в своем бобыльском хозяйстве Дубчик обходился топором, правда, тоже старым и заржавленным, с неудобным расшатанным топорищем. В. Быков, Народные мстители. «Ну как заказчики?» – интересовался ночью Колька, и похлопывал жену по мягкому телу, и смеялся – не притворялся, действительно смех брал, правда, нервный какой-то смех. В. Шукшин, Жена мужа в Париж провожала. Погуляли хорошо, правда устали.

4. Член предложения. Не требует постановки знаков препинания.

Правда ли это, нет ли – знали только они сами. И. Гончаров, Обрыв. Может быть, именно в этом великая сермяжная правда. И. Ильф, Е. Петров, Золотой теленок.

См. здесь.