Слова на первый взгляд в этих предложениях являются вводными и выделяются запятыми. Подробнее см. в "Справочнике по пунктуации".
Верен первый вариант.
Правильно: в городе Гусиноозёрске.
В разговорной речи и в публицистике такое употребление возможно.