Представляется более корректным считать за грибами дополнением (пошли за чем?). Но не будет ошибкой и такой разбор этого предложения, при котором слова за грибами будут выделены как обстоятельство цели (пошли с какой целью?).
Запятая не ставится.
Оба варианта согласования возможны.
Нужно написать строчными.
Вариант сходить за водой стилистически нейтральный, вариант по воду уместен в народно-поэтической речи. По хлеб – неправильно.
Верно: опОздала, пОздний (но опАздывать).
Верно: Ай да Рыжий, ай да сукин сын!
Правильно: приглашает на день рождения (на празднование дня рождения).
Верно: на мосту.
Запятая не нужна. Определительный оборот не обособляется, т. к. определяемое слово (голосом) само по себе не выражает нужного смысла и нуждается в определении.