Нет, верно: начать учиться читать.
Правильно: (учиться, преподавать) на каком-либо отделении.
Оборот "тренироваться им пользоваться" неудачен. Лучше: учиться им пользоваться.
В значении "учиться вместе", "сидеть рядом" - сидеть за одной партой.
Не видим в таком разговоре большой необходимости. Может, лучше учить (учиться)?
Обе конструкции просторечны.
Часть официального названия, начинающуюся со слова Оренбургский, необходимо заключить в кавычки. Склонять ее не нужно. Ср.: учиться в ГБОУ ВПО «Российский государственный гуманитарный университет».
Глагол отучиться в данном контексте употреблен в значении "перестать учиться, окончить своё учение", отмеченном нормативными словарями современного русского языка как не имеющий никаких стилистических помет.
Вы правы, в значении "капитал, средства" корректно: на деньги (ср.: учиться на медные деньги). На что куплю = на какие средства. В значении "металлические и бумажные знаки" - за деньги.
Аббревиатура пишется без точки: иняз (поступить в иняз, учиться в инязе). Но при этом возможно и графическое сокращение ин. яз., которое нужно читать полностью: иностранный язык, иностранные языки (требуются сотрудники со знанием ин. яз.).