Правило звучит так: в отглагольных прилагательных и причастиях на «гласная + н(н)ый», образованных от глагола на -ать(-ять), пишется гласная а(я) (нечаянный, выгулянный, недослушанный, подержанный, выменянный, резаный), в словах, образованных от глагола не на -ать(-ять), пишется гласная е (укушенный, положенный, хоженый, крашеный). Глагол отвергнуть оканчивается не на -ать(-ять), поэтому перед нн пишется е.

Правило таково: в отглагольных прилагательных и причастиях на «гласная + н(н)ый», образованных от глаголов на -ать (-ять), пишется а (я): нечаянный, недослушанный, подержанный, выменянный, резаный, в словах, образованных от глаголов не на -ать (-ять), пишется е: укушенный, положенный, хоженый, крашеный.

Таким образом, правильно: отчаянный, т. к. это слово образовано от отчаяться. Написание буквы я в глаголе подчиняется следующему правилу: после гласных перед -ть пишутся буквы и или я. Буква и пишется после гласного о, напр.: стоить, строить, успокоить; буква я — после гласных а, е, у: лаять, таять, каяться, отчаяться, веять, надеяться, лелеять, сеять, затеять, чуять. Исключения: глаголы драить и клеить.

При более этимологичном разборе, который часто оправдан орфографическими задачами, слово можно разделить на морфемы так: не/ча/я/нн/о, ср.: чаять, чаю, души не чает; (не) чаять — нечаянный — нечаянно.

Написание этих слов надо запомнить. Они являются исключениями и пишутся с двумя буквами н вместо одной, предусмотренной основными правилами. К исключениям, кроме слов невиданный, неслыханный, также относятся другие слова с приставкой не: неведанный, негаданный, нежеланный, нежданный, ненадёванный, неожиданный, нечаянный и (в составе устойчивого сочетания) недреманное око.

По сути это исключения из правила.