Верно: за лицензией.
Предлог по в значении "за" (по воду, по грибы, по ягоды) имеет очень ограниченную сферу употребления и является разговорным.
В этом случае можно использовать конструкцию с прямой речью: Я обрадовался: «Зачем человека торопить? — говорю. — Я не спешу».
Слово идти многозначно, и одно из значений очень широкое – 'двигаться, перемещаться в пространстве' (примеры из словаря: Поезд идёт. Баржа идёт по реке. Идти под парусом. Груз идёт морем. Идти на вёслах). Поэтому приведенная Вами фраза не ошибочна.
Сочетание не спеша представляет собой пограничное явление. По форме это деепричастие, по функции — наречие. Как наречие не спеша охарактеризовано в «Русской грамматике» 1980 г. В правилах орфографии оно часто включается в перечень деепричастий (как форма глагола):
Отрицание не пишется раздельно в следующих случаях.
1. Со всеми формами глаголов (кроме полных причастий; о них см. § 150):
а) с инфинитивом и спрягаемыми формами, напр.: не знать, не знаю, не знаете, не знал, не знали, не торопишься, не торопимся, не торопись, не нравится, не повезло;
б) с краткими формами причастий, напр.: не использован, не накрахмалено, не откупорена, не разработаны, не закрыто, не занят, не выпито;
в) с деепричастиями, напр.: не желая, не отвлекаясь, не спеша, не шутя, не успев, не встретившись.
(Правила русской орфографии и пунктуации. Полный академический справочник / под ред. В. В. Лопатина. М. Любое издание)
А о чем же тогда идет речь?
Возможны оба варианта.