Правильно слитное написание: Над головой хрипло орали невидимые за листьями птицы. Здесь нет влияющего на раздельное написание творительного действующего лица (не видимые мною) или творительного орудия действия (не видимые глазом). 

Рекомендации для таких случаев детально не разработаны. В Полном академическом справочнике под ред. В. В. Лопатина говорится лишь, что одна из функций дефиса — «передача протяжного звучания гласных, раскатистого р и других особенностей произношения, напр.: Антропка! Антропка-а-а!.. — кричал он с упорным и слезливым отчаянием, долго, долго вытягивая последний слог (Т.); Ну о-о-оченъ навязчивая реклама! (из газеты); Это было р-р-р-революционно!; «П-п-роходите, п-п-пожалуйста», — сказал он заикаясь». 

В художественной литературе писатели с помощью дефиса, чередующегося с одной или несколькими буквами, передают ритм, интенсивность звуков. И вряд ли на какой-то из вариантов передачи звуков нужно накладывать запрет. Ср. разные восклицания из художественных произведений:  

А-а-ар-рр-а! 

 ...тр-р-р-рр, тр-р-р-рр, тр-р-р-рр.

Рр-рота, подъем! 

 ...фрр-рр-р-р…

Р-рас-спрямить спины! Рр-рысс-два! Рррыс-два!

Рот-тэ! Рр-р-ясь, сир-на! 

РР-РРР!

Сюр-р-р-р-пл-л-л-из!

М-мяор-р-р! 

― М-м-м… ― сказал Иван Никифорович.

― Спишь? ― Мм… чего, мам?… ― хрипло отозвалась дочь.