Правильно: серебряный призер олимпиады.
Правильно: начинаться с чего-либо: начинается с деятельности.
Правильно раздельное написание: не серебряный, а...
В указанных случаях также не нужны кавычки.
В разговорной речи возможно призерка, официально - призер.
Верно написание этих сочетаний строчными буквами.
Указанная запятая нужна.