Такая конструкция вполне возможна. Она имеет книжный характер, ср. у А. С. Пушкина в трагедии «Борис Годунов»: «Я слышу речь не мальчика, но мужа». В академической «Русской грамматике» сказано: «Отрицательно-противительное значение взаимного исключения выражается союзом не... а (а не): [Чацкий:] Кто служит делу, а не лицам... (Гриб.); Я говорю не для вас, а для Вани (Некр.); Подарила мне колечко — не золотое, не серебряное, а простое. Резкость противопоставления смягчена в союзе но: не... но (но не): Он был оскорблен не самим признанием, но грубой небрежностью Авдея (Тург.); Эта работа потребует знаний, квалификации, но не физических усилий (журн.)» (Русская грамматика. М., 1980. Т. 2. § 2077).
Корректно: по-русски, на русском языке.
Верно: я живу на улице Пушкина.
Рекомендуем написать студентки.
Верно: роспись по керамограниту. См. значение 2 в статье орфографического словаря.
Корректно: добраться по канатной дороге.
Оба варианта верны.
Правильно: организациям, (каким?) относящимся. Ср.: организаций, (каких?) относящихся.
Предпочтительно: получил оценку на ЕГЭ (на экзамене).
Корректно: акт об оказании услуг.