Допустимо написание Великая теорема Ферма и Малая теорема Ферма с прописной буквы, поскольку это собственные названия теорем, хотя в специальной литературе малая теорема Ферма чаще всего пишется со строчной буквы. Остальные понятия следует писать со строчной буквы: метод факторизации Ферма, спираль Ферма, точка Ферма, числа Ферма.

Вводное сочетание кстати о птичках является цельным, фразеологическим: произнося его, говорящий едва ли предполагает говорить далее именно о птичках, тогда как, произнося кстати, о наболевшем, он планирует говорить именно о наболевшем. Сравним: Мои вины уже позабыты, и вроде уже должок за ней — она дома, а я вот в больнице. Уважают в России болезнь. Кстати, о птичках… Что ты думаешь о теореме Ферма? [Сергей Юрский. Теорема Ферма (1994)]; А чего стоит загадочный, скрытый туманом аэродром «Буревестник»! Отсюда камикадзе взлетали бомбить Перл-Харбор в 41-м. Кстати, о птичках: на Итурупе через пару месяцев достроят новый всепогодный аэропорт — единственный в истории современной России возведенный полностью с нуля [Комсомольская правда, 17.05.2014]. В связи с этим и запятая после кстати внутри этого сочетания не требуется. Отметим, правда, что в практике письма ее часто ставят — это показывают и приведенные примеры. 

Отличить вводное слово кстати от наречия кстати можно по значению — см., например, «Справочник по пунктуации». Сочетание кстати, о + существительное рассматривается как специфическая языковая единица — текстовая скрепа (скрепа-фраза). В этом сочетании слово кстати по своему значению вводное, поэтому пропускать запятую здесь нет оснований.

Сочетания типа по теореме X являются скорее обстоятельством причины (≈ «поскольку такова теорема Х»), нежели ссылкой на источник информации; теорема может быть приведена в разных источниках, созданных разными авторами. Конструкции вроде по словам учёных или по расчётам кого-то заключают в себе субъективность, то есть высказывание основано на мнении, данных или расчётах, которые могут быть подвержены изменению интерпретации или оценке. Такая субъективность характерна для вводных конструкций. 

При этом сочетания типа по теореме Х могут быть выделены запятыми, как и любые другие обстоятельства, для попутного пояснения или смыслового выделения. 

Ударение падает на Ё.

В отмеченных местах запятые не нужны. Если союз как имеет значение «в качестве», то присоединяемый им оборот не является приложением и не обособляется (предложения 1 и 2). Не выделяются запятыми обороты с союзом как, если они тесно связаны по смыслу со сказуемым (предложение 3). Также см. «Правила».

Тире ставится между двумя или несколькими именами собственными, совокупностью которых называется какое-либо учение, научное учреждение и т. п.: закон Бойля - Мариотта. См. Розенталь Д. Э. «Справочник по русскому языку. Пунктуация» (М., 2003) и в Правилах.