Если речь идет о персонаже романа М. Ю. Лермонтова «Герой нашего времени», правильно: Мери. Однако по нормам современного письма во многих собственных именах иноязычного происхождения (в том числе в имени Мэри) после согласных для передачи гласного э и одновременно для указания на твердость предшествующего согласного пишется буква э. Словари фиксируют написания Мэри Пикфорд, Мэри Шелли и др.
Правила нет, в спорных случаях следует обращаться к орфоэпическому словарю, например: Орфоэпический словарь русского языка / Под ред. Р. И. Аванесова. М., 2000. Кстати, согласно этому словарю, звук [з] в слове змея может быть как мягким, так и твердым.