В первом случае прилагательное относится к существительному мужского рода (журнал), во втором случае – к существительному женского рода (книга). При существительных женского рода, зависящих от числительных два, три, четыре, определение, находящееся между числительным и существительным, чаще ставится в форме именительного падежа множественного числа. Но и вариант три новых книги возможен.