Не пишется раздельно с относительными прилагательными, к которым относится и слово северный, так как в таких случаях частица не выражает  отрицание обозначаемого ими признака. Ср.: ветер несильный = слабый, ветер не северный = а какой-то другой. 

В русском языке существует правило, согласно которому существительные мужского рода в творительном падеже единственного числа получают окончание -ом, если основа слова заканчивается на твёрдый согласный звук. Слово хост заканчивается на твёрдый согласный т, поэтому в творительном падеже оно принимает форму хостом.

Вы правы, такое употребление некорректно. В приденных Вами предложениях определения относятся не к аббревиатуре ГМТ в целом, а лишь последней части термина. Корректно: Круг является геометрическим местом точек, расстояние от которых до данной точки не превосходит данное расстояние; Отметим, что геометрическое место точек, равноудалённых от сторон данного угла, состоит из...