Правильно: на Неве, на реке Неве, в Москве, в городе Москве. О склонении географических названий см. в «Письмовнике».
Это не ошибка, потому что выбор рисунка кавычек – это не вопрос правописания. В правилах пунктуации оговаривается только, что необходимо использовать кавычки разного рисунка для оформления цитаты (прямой речи) и включенных в нее закавыченных слов. Вот правило Д. Э. Розенталя:
Если в начале или в конце текста (прямой речи, цитаты) встречаются внутренние и внешние кавычки, то они должны отличаться рисунком («ёлочки» и «лапки»): Автор статьи указывает, что «в золотой фонд мировой литературы вошли такие произведения русской классики, как „Война и мир“».
Если между внутренними и внешними кавычками стоит вопросительный или восклицательный знак, то могут использоваться кавычки одного рисунка: Выдающимся публицистическим произведением А. М. Горького является статья «С кем вы, «мастера культуры»?».
Да, названия музыкальных групп при написании кириллицей выделяются кавычками.
Предпочтительно написание буквами: учиться на четыре и пять.
Правильно с кавычками и со строчной. И лучше: проходить обучение по специальности.
Предпочтительно заключить это название в кавычки.
Правильно: обращаться на «ты».
Кавычки не нужны.