Правильно: в размере одной тысячи двухсот семидесяти четырех рублей. Можно облегчить грамматическую задачу, сократить составное числительное и убедиться в том, что словосочетание употребляется в форме родительного падежа; ср.: (в размере) четырех рублей. Запись в финансовых документах может допускать расшифровку в варианте, предполагающем форму именительного падежа числительного: в размере одна тысяча двести семьдесят четыре рубля.
Действительно, читателю проще, когда написано без десятичной дроби.
Пишутся слитно порядковые числительные, образованные с помощью конечных частей:
1) -дцат(ый), -надцат(ый), -десят(ый), -сот(ый), напр.: тридцатый, двенадцатый, шестидесятый, четырехсотый;
2) -тысячн(ый), -миллионн(ый), -миллиардн(ый) и т. д., напр.: двухтысячный, пятнадцатитысячный, двадцатипятитысячный, двухсоттысячный, трехсоттидцатитрехтысячный; пятимиллиардный, шестисотмиллионный, стовосьмидесятимиллионный.
По этому правилу можно написать и числительные на -квадриллионн(ый), -квинтиллионн(ый) и т. д.
Раздельно пишутся составные порядковые числительные с последним компонентом — простым порядковым числительным от первый до девятый, напр.: пятьдесят первый, сто пятьдесят второй, тысяча девятьсот шестьдесят третий, две тысячи двадцать четвертый, три миллиона четыреста восемьдесят пятый.
Грамматических ошибок нет.
Такое сочетание возможно, но только в разговорной речи.
