Пунктуация корректна.

Правильно раздельное написание: по крайней мере. Написание через дефис невозможно.

Слова по крайней мере могут быть выделены запятыми как вводные. Обычно запятые ставятся, если слова по крайней мере расположены после слов, с которыми связаны по смыслу: Во мне, по крайней мере, ненависть к ней часто кипела страшная! (Л. Толстой, Крейцерова соната). При ином порядке слов (когда слова по крайней мере расположены перед соотносящимися с ними по смыслу словами) обособление, как правило, не требуется: На нем появились даже краски, в глазах блеск, что-то вроде отваги или по крайней мере самоуверенности. (И. Гончаров, Обломов).

У составных количественных числительных склоняется каждое входящее в них слово: достигает тысячи шестисот двадцати метров (см. в Письмовнике).

Оснований ставить запятую перед или нет.

В географических и административно-территориальных названиях — названиях материков, морей, озер, рек, возвышенностей, гор, стран, краев, областей, населенных пунктов, улиц и т. п. — с прописной буквы пишутся все слова, кроме родовых понятий (остров, море, гора, область, провинция, улица, площадь и т. п.), служебных слов, а также слов года, лет).

Таким образом, верно: сквер Двенадцати Лучей (если речь идет о московских Кузьминках, то официальное название: парк Двенадцати Лучей).

Слово имени в подобных случаях выступает в роли предлога (то есть служебного слова) и поэтому пишется с маленькой буквы. 

Речь идет о разновидностях склонения – твердой и мягкой. Твердый вариант – слова с основой, заканчивающейся твердым согласным (например: девочк-а, стол, окн-о – согласные [к], [л], [н] твердые), мягкий вариант – слова с основой, заканчивающейся мягким согласным (земл-я, конь, мор-е – согласные [л'], [н'], [р'] мягкие). И в рамках первого склонения, и в рамках второго склонения есть твердый и мягкий вариант, ср.: девочка, земля – 1 склонение, стол, конь, окно, море – 2 склонение. Они имеют некоторые различия в окончаниях (Вы их указали), но всё равно объединяются в рамках одного типа склонения.

Правилен второй вариант. Опереться можно на примеры в правиле о подлинных выражениях, вставленных в текст. Подлинные выражения, представляющие собой законченные предложения, начинаются с прописной буквы. 

«Подлинные выражения, вставленные в текст в качестве элементов предложения, выделяются кавычками, но двоеточие перед ними не ставится: Это «не хочу» поразило Антона Прокофьевича (Г.); Предположение дневального, что «взводный нажрался и дрыхнет где-то в избе», всё больше собирало сторонников (Ф.); Он вспомнил пословицу «За двумя зайцами погонишься — ни одного не поймаешь» и отказался от первоначального плана; С криком «Спасайте детей!» юноша бросился в горящее здание» (Розенталь Д. Э. Справочник по пунктуации для работников печати. М., 1984).

.«...Если прямая речь непосредственно включается в авторское предложение в качестве его члена, то она заключается в кавычки, знаки же препинания ставятся по условиям авторского предложения: Сказав Гричмару фразу «Легкой жизни не бывает, есть лишь легкая смерть», Крымов поймал на себе беспокойный, предупреждающий взгляд Стишова (Бонд.) (Правила русской орфографии и пунктуации. Полный академический справочник / Под ред. В. В. Лопатина. М., 2006)».

Обратите внимание: в конце предложения нужно поставить точку. 

Однажды я застал забавный диалог, один из участников которого задавался вопросом «Почему в нашем мире нет магии?». 

Возможен и другой вариант.

Однажды я застал забавный диалог, один из участников которого задавался вопросом: «Почему в нашем мире нет магии?»