Первая запятая возможна: обороты по условиям (чего-либо) могут обособляться с целью интонационно-логического выделения (решает автор текста). Вторая запятая не нужна.
Правильно: с 2 июня (с цифрой), со второго июня (при записи числительного буквами).