В предложении Мальчик стоял, оцепенев от холода запятая нужна: оцепенев от холода — это деепричастный оборот.
Такие варианты написания нередко встречались в печати. Например: Такими, например, явились кругосветные путешествия, открытие Америки, падение Персидского царства (разрушенного Александром Македонским) или китайских государств и среднеазиатских культурных центров, сокрушенных Чингизханом... [В. И. Вернадский. Биосфера и ноосфера (1938)]; В такой же холмистой местности мы затем миновали котловину Олоннохой, в которой монголы насчитывают 106 колодцев, будто бы выкопанных Чингизханом, войска которого стояли здесь во время какого-то похода. [В. А. Обручев. От Кяхты до Кульджи. Путешествие в Центральную Азию и Китай (1940)]; Я хочу через тебя все разузнать о татарском кагане Чингиз-хане. [Василий Ян. Чингиз-хан (1939)].
А о чем же тогда идет речь?
Верно: Где они появились впервые, точно неизвестно.
Корректно.
Лучше с тире.
Слова тем не менее обычно не обособляются, однако иногда их выделяют как вводное слово при соответствующей интонации.
Эти слова обычно не выделяются знаками препинания.