Правильно: слушаю группу «Ария».

Да, в подобных двухчастных заголовках ставится двоеточие. Оговоримся, что в справочнике по пунктуации Д. Э. Розенталя приводятся только примеры заголовков, состоящих из форм именительного падежа существительных, типа Многоэтажные улицы: спасение или бедствие? Между примерами из справочника и Вашим примером имеются и смысловые различия. В заголовках из справочника первая часть называет общую проблему, место действия, лицо, а вторая — содержит конкретизацию названного в первой части. В приведенном Вами случае в первой части заголовка приводятся чьи-то слова в форме прямой речи (хлесткая фраза, призванная привлечь внимание к новости), а во второй части поясняется, кто и при каких обстоятельствах сказал эти слова, и как раз это пояснение является новостью. Впрочем, полагаем, правило об оформлении двухчастных заголовков вполне можно распространить и на примеры вроде приведенного Вами. 

Предпочтительно: "Горбушкина двора".

Притяжательные прилагательные с суффиксами -ин- (мам-ин) и -ов- (отц-ов) имеют субстантивные окончания в И. п. и В. п.; кроме того в Р. п. и Д. п. единственного числа мужского и среднего рода они имеют вариативные окончания (правда, адъективные окончания употребляются чаще, чем субстантивные):

Правильно: в изучении, в покорении. Однако в поэтической речи возможна замена: в изученье, в покоренье. Так что ошибки нет. Отметим также, что правилами допускается и поэтический вариант в изученьи, в покореньи.

Существительные с неодносложной основой муж. и сред, рода на -ий и -ие в предл. п. и жен. рода на -ия в дат. и предл. п. ед. ч. имеют в безударном положении, в отступление от обще- го правила, окончание -и, а не -е, напр.: гений — о гении, натрий — о натрии, радий — о радии, Василий — о Василии, Юрий — о Юрии, отделение — в отделении, возвращение — по возвращении, содействие — при содействии; армия — к армии, об армии; линия — по линии, на линии; станция — к станции, на станции; Болгария — по Болгарии, в Болгарии; Мария — к Марии, о Марии. При наличии вариантов на -ие и -ье, -ия и -ья указанные падежные формы имеют разные окончания -и и -е: ср., напр., вариантные пары типа об умении — об уменье, в цветении — в цветенье, о многословии — о многословье, о Наталии — о Наталье, к Марии — к Марье. 

Примечание. В художественной, особенно поэтической, речи допускается написание форм предл. п. существительных сред, рода на -ье (обычно при предлоге в) с окончанием -и, напр.: В молчаньи шел один ты с мыслию великой(П.); Подвиг есть и в сраженьи, / Подвиг есть и в борьбе. / Высший подвиг — в терпеньи, / В любви и мольбе (Хом.); И снег соперничал в усердьи/ С сумерничающею смертью (Б. Паст.); «В очарованьи» (название стихотворения И. Северянина); Птицы кричат в поднебесьи, / Сердце стучит в подреберьи (В. Долина). Под ударением окончание предл. п. -и отмечается только у одного слова на -ье: забытьё — в забытьи́.

Точка после кавычек не нужна, поскольку цитата оканчивается многоточием.

См. подробно в Непростых словах.

Рекомендуем писать в кавычках с маленькой буквы. Подробнее см. вопрос 273123.

Можно использовать любую из этих конструкций. Каких-либо существенных доводов в пользу одной из них нет.