Дело в том, что последнее издание «Русского орфографического словаря» указывает как правильное написание притом что, хотя в остальных словарях, справочниках и художественных текстах пишется: при том что.
Корректный вариант: забраться внутрь. Наречие вовнутрь носит разговорный характер, имеет сниженную стилистическую окраску.