Существительное кроссовки в русских текстах встречается с конца 1960-х — начала 1970-х годов; возможно, одно из первых упоминаний — в «Рабочих тетрадях» А. Т. Твардовского (1967):

Сегодня успеть бы подготовить публикацию «Ленин и печник». Легчайший утренничек подсушил дороги и тропы, затянул матовым ледком мелкие лужицы, но подсушенная глина уминается под ногой, снег не держит — окунул левую ногу в кроссовке (матерчатые ботинки).

Лексикографическое описание это слово получило в следующем издании: Новые слова и значения. Словарь-справочник по материалам прессы и литературы 70-х годов / Под ред. Н. З. Котеловой. — М. : Русский язык, 1984. В словарной статье указана форма единственного числа — кроссовка, дано значение: 'спортивные закрытые туфли на резиновой подошве со шнуровкой' и разъяснено происхождение слова: «кро'ссовые [< кросс] туфли + -к(и) (-к(а)».

Тапки (и тапочки) на несколько десятилетий старше: в «Толковом словаре русского языка» под ред. Д. Н. Ушакова (1935–1940) тапок нет, а тапочки даны с пометой «новое». Слова эти тоже толкуются в словарях русского языка через туфли: тапки — это 'мягкие лёгкие туфли без каблуков'.

Очевидно, опорное слово туфля и повлияло на то, что кроссовки и тапки (тапочки) в единственном числе употребляются как существительные женского рода.

ПРЕЖДЕ ВСЕГО, вводное выражение и наречное выражение

1. Вводное выражение. То же, что «во-первых, главное». Выделяется знаками препинания, обычно запятыми. Подробно о пунктуации при вводных словах см. в Приложении 2.

Прежде всего, – что это за прическа? И. Бунин, Легкое дыхание. Да и вообще ты это оставь; прежде всего, это невежливо. В. Гаршин, Встреча. Вот к Слову-то и надо, прежде всего, привить новое отношение, переставить его в конец житейского ряда… А. Битов, Записки гоя.

2. Наречное выражение. То же, что «сперва, вначале, в первую очередь». Не требует постановки знаков препинания.

Предатель в разведке прежде всего открывает имена друзей… Ю. Семенов, Отчаяние. Поговоривши с родителями невесты и получив согласие, Лапкин прежде всего побежал в сад и принялся искать Колю. А. Чехов, Злой мальчик. Ухаживая за девицей, обращай внимание прежде всего на наружность, ибо по наружности узнается характер особы. А. Чехов, Руководство для желающих жениться. «Я всей душой желал быть тем, чем вы хотели бы, чтоб я был; но я ни в ком никогда не находил помощи... Впрочем, я сам прежде всего виноват во всем. Помогите мне, научите меня и, может быть, я буду...» – Пьер не мог говорить дальше; он засопел носом и отвернулся. Л. Толстой, Война и мир.

@ Разграничить вводное и наречное выражение «прежде всего» может быть затруднительно. В спорных случаях решение о расстановке знаков препинания принимает автор текста.

ПРЕЖДЕ ВСЕГО, вводное выражение и наречное выражение

1. Вводное выражение. То же, что «во-первых, главное». Выделяется знаками препинания, обычно запятыми. Подробно о пунктуации при вводных словах см. в Приложении 2.

Прежде всего, – что это за прическа? И. Бунин, Легкое дыхание. Да и вообще ты это оставь; прежде всего, это невежливо. В. Гаршин, Встреча. Вот к Слову-то и надо, прежде всего, привить новое отношение, переставить его в конец житейского ряда… А. Битов, Записки гоя.

2. Наречное выражение. То же, что «сперва, вначале, в первую очередь». Не требует постановки знаков препинания.

Предатель в разведке прежде всего открывает имена друзей… Ю. Семенов, Отчаяние. Поговоривши с родителями невесты и получив согласие, Лапкин прежде всего побежал в сад и принялся искать Колю. А. Чехов, Злой мальчик. Ухаживая за девицей, обращай внимание прежде всего на наружность, ибо по наружности узнается характер особы. А. Чехов, Руководство для желающих жениться. «Я всей душой желал быть тем, чем вы хотели бы, чтоб я был; но я ни в ком никогда не находил помощи... Впрочем, я сам прежде всего виноват во всем. Помогите мне, научите меня и, может быть, я буду...» – Пьер не мог говорить дальше; он засопел носом и отвернулся. Л. Толстой, Война и мир.

@ Разграничить вводное и наречное выражение «прежде всего» может быть затруднительно. В спорных случаях решение о расстановке знаков препинания принимает автор текста.

См. здесь.

 Нормативные словари указывают, что у существительного икра в значении "скопление зерновидных яичек, откладываемых рыбами, амфибиями, моллюсками и другими водными животными" множественное число не употребляется. Однако у многих существительных, обозначающих абстрактные понятия – качества, свойства, действия, состояния (смелость, прямота, седина, беготня, лепет, спасение), вещества (вода, мед, чугун, сталь, нефть, крупа, мука), собирательные названия (крестьянство, воронье, детвора, листва, зелень, белье), могут образовываться формы множественного числа, но такое образование обязательно связано с теми или иными семантическими особенностями. Формы мн. ч. в этих случаях могут иметь следующие значения.
1) У вещественных существительных:
а) значение видов, сортов вещества: крупа – крупы, вино – вина, масло – масла (технические), вода – воды (например, минеральные); б) значение изделий из данного вещества: Эх, какое богатое убранство! Какие зеркала и фарфоры! (Гоголь); ...на шелка, на бархаты ложились шали, шарфы, вуали (Белый);
в) значение большого пространства, покрытого данным веществом: воды океана, пески пустыни, льды и снега Арктики; то же в областных названиях площадей под сельскохозяйственными культурами: ржи, овсы; Начали искать глазами, нельзя ли спрятаться где-нибудь в коноплях (Салтыков-Щедрин); Попадались ли нам пышные, тяжелые клевера – мы восторгались клеверами (Солоухин).
В разговорной речи при обозначении некоторого количества порций, упаковок вещества возможны сочетания вещественных существительных с количественными числительными: два кефира 'две бутылки или два пакета кефира', три молока.

Так что форма икры разнообразные хотя и не является нормативной, соответствует тенденциям в развитии русского языка. 

Нормативные словари указывают, что у существительного икра в значении "скопление зерновидных яичек, откладываемых рыбами, амфибиями, моллюсками и другими водными животными" множественное число не употребляется. Однако у многих существительных, обозначающих абстрактные понятия – качества, свойства, действия, состояния (смелость, прямота, седина, беготня, лепет, спасение), вещества (вода, мед, чугун, сталь, нефть, крупа, мука), собирательные названия (крестьянство, воронье, детвора, листва, зелень, белье), могут образовываться формы множественного числа, но такое образование обязательно связано с теми или иными семантическими особенностями. Формы мн. ч. в этих случаях могут иметь следующие значения.
1) У вещественных существительных:
а) значение видов, сортов вещества: крупа – крупы, вино – вина, масло – масла (технические), вода – воды (например, минеральные); б) значение изделий из данного вещества: Эх, какое богатое убранство! Какие зеркала и фарфоры! (Гоголь); ...на шелка, на бархаты ложились шали, шарфы, вуали (Белый);
в) значение большого пространства, покрытого данным веществом: воды океана, пески пустыни, льды и снега Арктики; то же в областных названиях площадей под сельскохозяйственными культурами: ржи, овсы; Начали искать глазами, нельзя ли спрятаться где-нибудь в коноплях (Салтыков-Щедрин); Попадались ли нам пышные, тяжелые клевера – мы восторгались клеверами (Солоухин).
В разговорной речи при обозначении некоторого количества порций, упаковок вещества возможны сочетания вещественных существительных с количественными числительными: два кефира 'две бутылки или два пакета кефира', три молока.

Так что форма икры разнообразные хотя и не является нормативной, соответствует тенденциям в развитии русского языка. 

1. Нужно поставить вопросительный знак и две точки за ним.

2. Цитату можно обозначить не кавычками, а, например, курсивом.

Очевидно, ИИ обучался на текстах, в которых содержатся предложения, с запятой, поставленной после обстоятельства в начале предложения.

В предложении пропущено подлежащее при сказуемых обнимал и вспоминал, вряд ли подлежащим является слово голос. Нужно дополнить или переформулировать предложение, а потом ставить знаки препинания.

Правила постановки знаков препинания при прямой речи, находящейся внутри авторских слов, таковы.

Если прямая речь оказывается внутри слов автора, то она заключается в кавычки, а перед ней ставится двоеточие; прямая речь начинается с прописной буквы. После прямой речи знаки препинания расставляются следующим образом:

а) запятая ставится, если она была необходима в месте разрыва вводящих слов автора: Сказав: «До скорой встречи», она быстро вышла из комнаты;

б) тире ставится в случае отсутствия знака препинания на месте разрыва вводящих слов автора: Перебарывая неловкость, он пробормотал студенческую остроту: «У меня бабушка корью заболела» — и хотел придать начатому разговору непринужденную легковесность (Бонд.);

в) тире ставится, если прямая речь заканчивается многоточием, вопросительным или восклицательным знаком: Дети ожидали, что он похвалит их, но дедушка, покачав головой, сказал: «Этот камень лежит здесь много лет, здесь ему место...» — и рассказал о подвиге трех советских разведчиков (Сух.); Петр Михайлыч хотел сказать: «Не впутывайся ты, пожалуйста, не в свои дела!» — но промолчал (Ч.); Она [собака] останавливается. Я повторяю: «Что сказано?» — и держу ее долго на стойке (Пришв.);

г) если прямая речь непосредственно включается в авторское предложение в качестве его члена, то она заключается в кавычки, знаки же препинания ставятся по условиям авторского предложения: Сказав Гричмару фразу «Легкой жизни не бывает, есть лишь легкая смерть», Крымов поймал на себе беспокойный, предупреждающий взгляд Стишова (Бонд.).

Примечание. Прямая речь не выделяется кавычками:

а) если нет точного указания, кому она принадлежит (прямая речь вводится безличным или неопределенно-личным предложением): Не даром говорится: дело мастера боится (посл.); Про него говорили: строгий, но справедливый;

б) если в прямую речь вставлено вводное слово говорит, указывающее на источник сообщения: Я, говорит, хочу закончить институт, профессию получить; или если прямое указание на источник сообщения оформлено как вводная конструкция: Статья ученого, сообщает критик, вызвала большой интерес общественности.

Ваши наблюдения абсолютно верны. Двоеточие в некоторых случаях может заменяться на тире. И это оговорено в правилах пунктуации. Например, вот примечание к правилу о бессоюзном сложном предложении.

В бессоюзном сложном предложении при обозначении пояснения, причины, обоснования, изъяснения допустимо употребление тире вместо двоеточия (особенно в художественной литературе и в публицистике). Вот, в частности, примеры из произведений К. Паустовского: Изредка в небе светилось голубоватое пятно — за тучками пробивалась луна, но тотчас гасла; Подснежники, наверное, уже прорастали в земле — их слабый травянистый запах просачивался сквозь снег; Слой облаков был очень тонок — сквозь него просвечивало солнце; На молу погасили огни — теплоход ушел; Татьяна Андреевна вздрагивала от сырости — после теплой каюты на палубе было свежо; Паханов крепко держал капитана за локоть — капитан был еще слаб после ранения; Ей хотелось заплакать — лом даже через варежки леденил руки; В армию меня тоже не берут — сердце заштопанное; Однажды зимой вышел я и слышу — стонет кто-то за оградой.  (Правила русской орфографии и пунктуации. Полный академический справочник / под ред. В. В. Лопатина. М., 2006. § 129.)

Обратите внимание: такая замена признается допустимой, не ошибочной, но все же в приведенных случаях предпочтительно ставить двоеточие. 

Вот примечание к правилу об однородных членах с обобщающим словом.

Допустимо используемое в современной практике печати при всех позициях обобщающих слов употребление тире, в том числе — перед перечислением (на месте традиционного двоеточия): Хороших байдарочников было всего трое — Игорь, Шуляев, Коля Корякин и, разумеется, сам Андрей Михайлович (Тендр.); Если бы его что-то выделяло среди других — талант, ум, красота... Но ничего такого у Дюка действительно не было (Ток.); Всё, всё услышал я — и трав вечерних пенье, и речь воды, и камня мертвый крик (Забол.); Я имел случай и счастье знать многих старших поэтов, живших в Москве, — Брюсова, Андрея Белого, Ходасевича, Вячеслава Иванова, Балтрушайтиса (Б. Паст.). (Правила русской орфографии и пунктуации. Полный академический справочник / под ред. В. В. Лопатина. М., 2006. § 36.)

Мы передадим Ваше предложение Сергею Александровичу Кузнецову – главному редактору «Большого толкового словаря русского языка», электронная версия которого размещена на нашем портале.