Корректно: парк "Лосиный Остров".
Инициальные аббревиатуры – названия спортивных организаций обычно не заключаются в кавычки.
Если название употребляется в тексте, кавычки нужны: У нас открыли магазин «Мила». В «Миле» самая вкусная кулинария.
Если название указывается на вывеске (без родового слова магазин), кавычки не ставятся.
Формально это родительный падеж. В действительности - "остатки" исторической формы двойственного числа именительного падежа.
Кавычки уместны, если нужно обратить внимание адресата текста на слово нейронка или если нужно употребить это разговорное слово в нейтральном контексте.
Кавычки можно не ставить, если нет сомнений в том, что слово будет понятно читателю, и если стиль текста дает возможность употреблять разговорные слова.
Нет, не нужно.