Верно: за лицензией.
Предлог по в значении "за" (по воду, по грибы, по ягоды) имеет очень ограниченную сферу употребления и является разговорным.
В этом случае можно использовать конструкцию с прямой речью: Я обрадовался: «Зачем человека торопить? — говорю. — Я не спешу».
Сочетание не спеша представляет собой пограничное явление. По форме это деепричастие, по функции — наречие. Как наречие не спеша охарактеризовано в «Русской грамматике» 1980 г. В правилах орфографии оно часто включается в перечень деепричастий (как форма глагола):
Отрицание не пишется раздельно в следующих случаях.
1. Со всеми формами глаголов (кроме полных причастий; о них см. § 150):
а) с инфинитивом и спрягаемыми формами, напр.: не знать, не знаю, не знаете, не знал, не знали, не торопишься, не торопимся, не торопись, не нравится, не повезло;
б) с краткими формами причастий, напр.: не использован, не накрахмалено, не откупорена, не разработаны, не закрыто, не занят, не выпито;
в) с деепричастиями, напр.: не желая, не отвлекаясь, не спеша, не шутя, не успев, не встретившись.
(Правила русской орфографии и пунктуации. Полный академический справочник / под ред. В. В. Лопатина. М. Любое издание)
Слово идти многозначно, и одно из значений очень широкое – 'двигаться, перемещаться в пространстве' (примеры из словаря: Поезд идёт. Баржа идёт по реке. Идти под парусом. Груз идёт морем. Идти на вёслах). Поэтому приведенная Вами фраза не ошибочна.
А о чем же тогда идет речь?
Возможны оба варианта.