Оба варианта верны.
Правильно: нерастекающаяся масса (если у причастия нет зависимых слов).
Да, предпочтительно, на наш взгляд, написание в кавычках.
В научных текстах встречается сочетание стойкость к окислению, поэтому корректным может быть следующий вариант: тест масла на стойкость к окислению. Вместе с тем рекомендуем уточнить терминологическое употребление, принятое в той сфере деятельности и знания, какую представляет Ваш текст.
Чаще всего - сливочное масло :)
Спасибо! Поправили.