Возможны варианты.
Род несклоняемых существительных, обозначающих географические собственные имена (названия городов, рек, озер, островов, гор и т.д.), определяется по грамматическому роду нарицательного существительного, выступающего в роли родового понятия (т.е. по роду слов город, река, озеро и т.д.), например: солнечный Тбилиси (город), широкая Миссисипи (река), полноводное Эри (озеро), труднодоступная Юнгфрау (гора), живописный Капри (остров). Отступления от правила объясняются влиянием аналогии, употреблением слова в другом значении, тенденцией относить к среднему роду иноязычные несклоняемые слова на -о, например Северное Борнео.
С термином река склоняются простые русские, славянские и освоенные названия: на реке Волге, на реке Висле (но: на реке Иртыш – географические названия обычно не склоняются, когда род обобщающего нарицательного слова и топонима не совпадают). Не склоняются названия озер: на озере Виктория, на озере Титикака.
Корректор прав. Кемерово – существительное среднего рода. Если существительное обозначает географический объект, то его род определяется родом слова, которое обозначает тип объекта (город, река, озеро и т. д.) – такое правило, действительно, существует, но касается только несклоняемых существительных (Тбилиси мужского рода, так как это город, Миссисипи женского рода, так как это река). Кемерово – изменяемое слово (в Кемерове, из Кемерова). Ср.: Москва – слово женского рода, хотя это тоже город.
Вы правы: на пляже отдыхают, загорают, а купаются в воде. Распространенность сочетания купание на пляже, видимо, можно объяснить тем, что пляж в этом случае широко понимается как в целом место для отдыха, где есть и песок, и какая-то вода (река, море и др.). Представляется, что такое сочетание можно признать допустимым в непринужденной речи, но не в образцовом употреблении.
С географическим термином река наблюдается тенденция склонять названия женского рода и не склонять названия мужского рода: на р. Северный Колчим. Правила склонения географических названий в сочетании с родовым словом см. в «Письмовнике».
Употребительно: утки плавают в озере.
Рыбачить на озере, на реке; ловить рыбу в озере, в реке.