Лучше: палец, пальцем.
Крайние пальцы стопы (I и V) называются так же, как аналогичные пальцы рук — большой и мизинец, а остальные три называют номерами II, III, IV, начиная счёт с большого пальца.
Название "указательный" палец получил по характерному жесту: вытянутый палец - указание на предметы и лица. Сегодня, конечно, указывать на людей указательным пальцем далеко не всегда прилично и уместно.