Не обособляются деепричастия, которые являются обстоятельствами образа действия, напр.: Поезд шёл не останавливаясь («безостановочно»); Она говорила об этом улыбаясь («говорила с улыбкой»). В Вашем предложении-заголовке деепричастие не обозначает образ действия, оно указывает пусть и на парадоксальное по смыслу, но все же действие: хотя я ухожу, но при этом остаюсь. Так что запятую нужно поставить. 

См. в Правилах.

Нарушать правила правописания не следует, как и устоявшееся словоупотребление. Правописание - более "жесткая" сфера, в которой соблюдение правил важнее. Тем более что рассматриваемое отступление от традиции именования дебютов не содержит в себе грамматических нарушений.

Уважаемая Юлия, Вы напрасно обижаетесь и напрасно придаете политический смысл предлогам. Употребление предлога на никоим образом не нарушает суверенитета Украины, да и не может его нарушать. Да, Украина – независимое государство, и с названием этого государства согласно литературной норме, обусловленной историческим развитием русского языка, употребляется предлог на.

А что касается слова кофе – его допустимо употреблять как существительное среднего рода только в разговорной речи. Писать мы по-прежнему должны черный кофе, так опять же требует строгая литературная норма. Возможно, что со временем варианты черное кофе и в Украине станут литературной нормой, будут зафиксированы словарями и рекомендоваться как предпочтительные. Но для этого должно пройти время. Норма, подчеркиваем, – результат исторического развития языка.  Как писал выдающийся русский лингвист А. М. Пешковский, норма – это то, что было, и отчасти то, что есть, но отнюдь не то, что будет.

Ко всему прочему -  вводное выражение, то же, что «кроме всего прочего, наконец». Выделяется знаками препинания, обычно запятыми.

Людям было неудобно, жарко, ко всему прочему, самого старого, совершенно седого генерала с планкой четырех орденов Красного Знамени и знаком «Почетный чекист» на габардиновом кителе в душновато-спертом, пахнувшем сеном воздухе стодолы сразу же охватило астматическое удушье. В. Богомолов, Момент истины.

В функции членов предложения эти слова не требуют постановки знаков препинания.

Вообще не сообразишь, за каким краем света находишься: ясно только, что вверх ногами ко всему прочему человечеству. М. Веллер, Ножик Сережи Довлатова. Но женщина бывает сострадательна, нежна, честна, справедлива только с тем, кого любит, и безжалостна ко всему прочему. И. Гончаров, Обрыв.

Слова «ко всему прочему» в значении «кроме всего» выделяются знаками препинания непоследовательно, ср.: Но еще ко всему прочему знаете что я подумал перед самым мгновением этим?.. Ю. Герман, Дорогой мой человек.

К сожалению, четких рекомендаций на этот счет нет. Предпочтительно: специальность «физика», «математика».

Мы не выполняем домашние задания. 

Ответ на вопрос № 218330 требует правки. Подробности здесь.

Обороты, присоединяемые союзом «чем», выделяются (или отделяются) запятыми, если в предложении называются или подразумеваются два сравниваемых понятия.

Шут необходим толпе более, чем герой. М. Горький, Жизнь Клима Самгина. Кстати, вы, кажется, пострадали более, чем Билль. А. Грин, Джесси и Моргиана. Есть вещи, которые утомляют человека гораздо более, чем сама работа. Л. Улицкая, Пиковая дама. Милый зверь накуролесил на новом месте еще больше, чем у меня. Д. Мамин-Сибиряк, Мeдведко. Вот Додик мой милый, милый и такой умный, он вырастет еще больше, чем ты. Л. Андреев, Великан. Поэт в России – больше, чем поэт… Е. Евтушенко, Молитва перед поэмой. Разбитое на мелкие осколки знание интересовало людей не более, чем всякая другая работа, в которой не видишь смысла и цели. И. Ефремов, Час быка. …Есть люди… которые смыслят в музыке не больше, чем некоторые животные… М. Булгаков, Театральный роман. …Седины у него не больше, чем у меня. А. Битов, Рассеянный свет.

Однако при отсутствии сравниваемых понятий слова «(не) более / больше чем» образуют с последующими словами неразложимое сочетание (единый член предложения), не требующее постановки знаков препинания. Как правило, в этом случае после слов «(не) более / больше чем» следует количественно-именное сочетание (счетный оборот) или название единицы измерения (час, грамм, километр и т. п.).  

Таким образом тайна была сохранена более чем полудюжиною заговорщиков. А. Пушкин, Метель. Водка была горькая, разведенная, по случаю праздника, водой более чем на три четверти. В. Короленко, Сон Макара. Егоров вообще не любил, когда начальник розыскного отдела отлучался более чем на сутки… В. Богомолов, Момент истины. На снимке более чем столетней давности был изображен коллектив только что открывшегося мясного храма. В. Аксенов, Новый сладостный стиль. Деревня была уже не более чем в двухстах шагах… Н. Гумилев, Записки кавалериста. Совершенно больной и даже постаревший поэт не более чем через две минуты входил на веранду Грибоедова. М. Булгаков, Мастер и Маргарита. Это разговор не больше чем на двадцать минут… В. Аксенов, Новый сладостный стиль.

Запятая ставится.