Правило таково: в отглагольных прилагательных и причастиях на «гласная + н(н)ый», образованных от глаголов на -ать (-ять), пишется а (я): нечаянный, недослушанный, подержанный, выменянный, резаный, в словах, образованных от глаголов не на -ать (-ять), пишется е: укушенный, положенный, хоженый, крашеный.

Таким образом, правильно: отчаянный, т. к. это слово образовано от отчаяться. Написание буквы я в глаголе подчиняется следующему правилу: после гласных перед -ть пишутся буквы и или я. Буква и пишется после гласного о, напр.: стоить, строить, успокоить; буква я — после гласных а, е, у: лаять, таять, каяться, отчаяться, веять, надеяться, лелеять, сеять, затеять, чуять. Исключения: глаголы драить и клеить.

Обычно безударные гласные перед -ть в глаголах не проверяют, а пишут по памяти. Ошибки встречаются редко, чаще в немногочисленных глаголах на -ять (таять, веять, сеять и др.), -еть (выздороветь, шелудиветь и др.), в парах типа обессилеть — обессилить. Однако правила выбора гласной в глаголах перед -ть есть, оно включено в полный академический справочник «Правила русской орфографии и пунктуации» под ред. В. В. Лопатина. Электронную версию можно найти здесь. 

В школе безударные гласные на конце глагольной основы перед -ть проверять не учат. Правила их проверки сформулированы были относительно недавно, и они достаточно сложные для применения. В школе сложилась методическая традиция обходиться без правила. Дети благодаря языковой интуиции чувствуют, какую гласную нужно писать перед -ть, и ошибки здесь возникают редко. Слов, в которых ошибки встречаются, немного.

Если мы не помним точно, какая гласная пишется в инфинитиве, то ее нужно проверить по словарю. При этом некоторые простые правила о гласных перед -ть запомнить можно. 

1. В инфинитиве после гласной о пишется -ить, например: стоить, строить, удостоить, присвоить. 

2. В инфинитиве после гласных а, е, у пишется -ять, например: лелеять, маяться. Исключения: драить, клеить.  

Слов, относящихся ко второму правилу, немного, поэтому некоторым удобнее запоминать не правило, а сложные глаголы: 

1) баять, веять, лаять, реять, сеять, таять, хаять (сниж.), чаять, чуять, блеять, лелеять, затеять, маяться, каяться, надеяться,

2) драить, клеить, 

3) кашлять.

Заучивая глаголы, важно помнить, что при присоединении приставки или постфикса гласная перед -ть не меняется: клеить — заклеить, клеиться.

3. Особую группу составляют глаголы с приставками обез-(обес-). Нужно научиться различать слова по значению: обессилить (лишить кого-то сил) — обессилеть (лишиться сил), обезводить (лишить воды) — обезводеть (лишиться воды).