Нет, название орудия катюша в кавычки не заключается.
В 4-м издании академического «Русского орфографического словаря» под ред. В. В. Лопатина, О. Е. Ивановой (М., 2012) зафиксировано написание названия орудия в кавычках: «катюша» (в прежних изданиях словаря рекомендовалось написание без кавычек). Корректно: залп «катюши».
Орфографически верно написание названия минометного орудия катюша без кавычек, со строчной буквы.
В этом предложении прилагательное глупенькая — согласованное определение к существительному Катюша. Определение может быть отделено от определяемого существительного другими членами предложения.
Запятая ставится.