Да, использовать двойные скобки не принято. Корректно: Сумма расходов по абонентской плате составляет 1 086,4 тыс. руб.: (12 240,6 – 1 377,0) х 10 % = 1 086,4 тыс. руб..

В подобных случаях рекомендуется сочетать круглые скобки с квадратными (см. примечание к параграфу 100 «Полного академического справочника» под ред. В. В. Лопатина): Численность N-й области составляет 1500 тысяч человек [по данным Федеральной службы государственной статистики (далее — Росстат)].

В правилах пунктуации предписаний по поводу двойных скобок нет. Конструкции, которые нуждаются в двух парах скобок, нежелательны. Часто можно заменить одну пару скобок на тире. Однако иногда двойные скобки встречаются в специальных текстах, например в академических правилах орфографии (см., например, здесь). В неофициальных ситуациях общения знак )) используется вместо улыбающегося смайлика. Но такое употребление, конечно, не регламентировано.

Двойные скобки избегаются, лучше использовать скобки разного рисунка: (...[...]).

Вторая скобка, как правило, не ставится.