Устойчиво: задача со звездочкой.
Правильно: прийти из школы.
Так поставить знаки можно, хотя после личного местоимения тире обычно не ставят.
Запятая факультативна.
В разделах, посвященных вводным словам, справочниками регламентируется лишь постановка запятых, в редких случаях — тире. Вместе с тем постановка двоеточия после вводного слова кстати в начале предложения не выглядит ошибкой, поскольку в таких случаях слово играет роль текстовой скрепы и, вообще говоря, может быть оформлено как отдельное предложение, сравним: Кстати! Мне вчера приснился вещий сон!
Указанные запятые нужны, они выделяют приложение, стоящее после имени собственного.
Правильно: со множеством (а также во множестве, ко множеству).
Правильно слитное написание: оставалось нетронутым.