Правильно: в размере одной тысячи двухсот семидесяти четырех рублей. Можно облегчить грамматическую задачу, сократить составное числительное и убедиться в том, что словосочетание употребляется в форме родительного падежа; ср.: (в размере) четырех рублей. Запись в финансовых документах может допускать расшифровку в варианте, предполагающем форму именительного падежа числительного: в размере одна тысяча двести семьдесят четыре рубля.
Ошибки не было.
Собирательные числительные используются в сочетании с существительными мужского и общего рода, называющими лиц: пятеро друзей, встретил пятерых друзей; на улице стояло семеро зевак. В подобных конструкциях допускается также использование количественных числительных: пять друзей, пяти друзей; семь зевак.
При существительных женского рода, зависящих от числительных два, три, четыре, определение, находящееся между числительным и существительным, чаще ставится в форме именительного падежа множественного числа: две (три, четыре) красные розы. Но и вариант две (три, четыре) красных розы возможен, это не ошибка.
См. здесь.
См. склонение числительных на -сот в Письмовнике.
См. склонение числительных в Письмовнике.
