См. в «Словаре трудностей».

Правильно: 39-й конференции.

Такое сочетание можно употребить, если Вы уверены, что оно будет понятно читателю.

Да, такое управление (конференция о) возможно.  

Правильно: участвовать в конференции.

Если идет речь о конференции, которая была организована в прошлом (а не организуется сейчас), следует использовать причастие прошедшего времени: организованная.

Правильно: XII Международная конференция.

Слово Всероссийский пишется с прописной буквы как первое слово названий организаций, обществ, мероприятий и т. п.: Всероссийский выставочный центр, Всероссийская государственная телевизионная и радиовещательная компания, Всероссийская конференция «Шаг в будущее». Во множественном числе верно написание со строчной: участвовали во всероссийских конференциях.

Корректно: на конференции.

Корректно: сертификат участника или сертификат, подтверждающий участие.