Корень слова камень -- камень. О корне читайте в пособии Е. И. Литневской (раздел «Корень»).
Да, кавычки нужны. Во-первых, они указывают на синтаксическую несогласованность; во-вторых, показывают границы названия, состоящего из нескольких слов, разделенных запятыми.
Лучше использовать запятые: "Камень, ножницы, бумага".
Название не зафиксировано в орфографических словарях. Так как Розеттский камень – название памятника письменности, корректно написание первого слова с заглавной буквы. Ср.: Тмутараканский камень.
Этот оборот обычно не требует постановки кавычек.