В большинстве случаев названия рек согласуются с родовым наименованием, т. е. склоняются: по реке Оби, по реке Днепру. Однако малоизвестные названия рек обычно не согласуются. Представляется, что Пур можно отнести к малоизвестным названиям рек, следовательно: по реке Пур.
На Ваш вопрос есть ответ в нашем архиве, см. вторую часть ответа на вопрос № 268480.
С термином река склоняются простые русские, славянские и освоенные названия: на реке Неве, на реке Висле (но: на реке Иртыш – географические названия обычно не склоняются, когда род обобщающего нарицательного слова и топонима не совпадают).
С географическим термином река наблюдается тенденция склонять названия женского рода и не склонять названия мужского рода: на реке Томи, но: на реке Днепр.
Названия рек женского рода склоняются в сочетании со словом река: на реке Кубани.
Верно: на реке Оке.
Глагол купаться шире по значению. «Большой толковый словарь русского языка» под ред. С. А. Кузнецова определяет его так: погружаясь в воду, обмываться, плавать, плескаться. Так что на речке можно и купаться, и плавать.