Оба варианта правильны.
Верно: операция на мозге.
Слово лытка отмечено в словаре Даля (в значениях 'бедро, ляшка'; 'окорок, задняя, а иногда и передняя свиная лопатка' и др. – с пометами, указывающими на диалектный характер этого слова). В словарях современного русского литературного языка лытка не зафиксировано, но в диалектах употребляется до сих пор.
Во многих словарях и нормативных руководствах сочетания в мозге и в мозгу трактуются как равноправные варианты. В то же время в «Большом универсальном словаре русского языка» под ред. В. В. Морковкина определяется, что форма предложного падежа слова мозг в значении 'центральный отдел нервной системы' образуется при помощи окончания -е. Такая же рекомендация содержится в справочнике Л. К. Граудиной, В. А. Ицковича, Л. П. Катлинской «Грамматическая правильность русской речи. Стилистический словарь вариантов» (М., 2001. С. 194, 196). Поэтому предпочтительным можно считать: в спинном мозге.