Корень слова камень -- камень. О корне читайте в пособии Е. И. Литневской (раздел «Корень»).
Название не зафиксировано в орфографических словарях. Так как Розеттский камень – название памятника письменности, корректно написание первого слова с заглавной буквы. Ср.: Тмутараканский камень.
Лучше использовать запятые: "Камень, ножницы, бумага".
Этот оборот обычно не требует постановки кавычек.