Корректно: журнал илюстрирован.
В зависимости от значения возможны два варианта написания: художественно иллюстрированный (иллюстрированный (как?) художественно) или художественно-иллюстрированный (художественный и иллюстрированный).
Следует писать раздельно, хотя сочетание несколько странное.
Судя по всему, здесь слово опыт употреблено в значении 'пробное осуществление чего-л.' (см. значение 4 в «Большом толковом словаре»). Сочетание опыт очерка (очерков) встречается в материалах Национального корпуса русского языка.
В первом предложении тире поставлено верно. Обратите внимание на лексическую сочетаемость: книга может быть иллюстрирована художницей, но не исполнена ею.
Во втором предложении нужно убрать запятые, выделяющие слова "в основном".