Слово страна-участница есть в русском литературном языке (оно зафиксировано, например, в «Русском орфографическом словаре» РАН). Но в строгом стиле письменной речи, в деловых документах даже по отношению к лицам женского пола используются существительные мужского рода (а страна – и вовсе неодушевленное существительное). Поэтому при вариативности страна-участница и страна-участник в официальных документах лучше всё же использовать форму мужского рода: страна – участник договора (если после слова участница / участник есть зависимое слово, используется не дефис, а тире).

Нужен дефис, если после слова участница, участник нет зависимого слова: страны-участницы, страны-участники. В противном случае вместо дефиса ставится тире, например: страны – участницы выставки, страны – участники выставки. Женский род и мужской вариативны, но в строгой письменной речи, в деловых документах чаще используется мужской род.