См. словарную фиксацию.
От аббревиатуры ГБУ - гэбэушник.
Правильно: пэтэушник, кавээнщик, эмгэушник и т. д. Так же пишутся прилагательные, например: эсэнгэвский (от СНГ), кабэшный (от КБ), гэпэушный (от ГПУ).
В словах, образованных от буквенных аббревиатур с помощью суффиксов, аббревиатурная основа записывается по названиям букв: бэтээр (от БТР), кагэбэшник (от КГБ), гэбист (от ГБ), гэрэушник (от ГРУ). См.: Правила русской орфографии и пунктуации. Полный академический справочник / Под ред. В. В. Лопатина. М., 2006.
Слова кагэбэшник, гэбэшник, гэрэушник имеют разговорную стилистическую окраску.
Есть еще несколько случаев, когда после согласных пишется э. Это написание после приставок или составных частей сложных и сложносокращенных слов (предэкзаменационный, сэкономить; двухэтажный, Мосэнерго); написание во многих собственных именах иноязычного происхождения и производных от них словах (Бэкон, Дэвид, Сэлинджер; Мэриленд, Тайбэй, Улан-Удэ, Хуанхэ). Кроме того, э пишется в названиях букв (бэ, вэ, гэ и др.), в составе аббревиатур, пишущихся по названиям букв, и слов, образованных от буквенных аббревиатур, напр.: бэтээры, кавээнщик, гэпэушник, кагэбэшный, в звуковых аббревиатурах и образованных от них словах, напр.: ГЭС, ТЭЦ, ВТЭК, НЭП, втэковский, нэпман.
Но в целом закономерность, о которой Вы говорите, существует. По нормам русской орфографии не в начале корня после букв, передающих твердый согласный, в словах иноязычного происхождения, как правило, пишется буква е (бизнес, бренд, коттедж, партер, стенд, инерция); буква э пишется только в немногих нарицательных существительных, таких как мэр, мэтр, пленэр, пэр, рэкет, рэп, сэр и некоторых других словах (преимущественно узкоспециальных), их круг определяется орфографическим словарем.