В онлайн-продаже обнаружены книги о сборе грибов, сгенерированные нейросетями

В книжных магазинах Amazon появились англоязычные книги о сборе и приготовлении грибов, созданные с помощью генеративных нейросетей. Эти книги часто не опираются на научные данные и могут содержать неточную или даже опасную информацию. На это обратило внимание онлайн-издание 404 Media, посвященное технологиям и связанным с ними этическим проблемам.

О проблеме с книгами, сгенерированными искусственным интеллектом, журналисты пишут уже больше года. Многие из этих книг явно представляют собой легкий способ заработка — в частности, литература о путешествиях.

С книгами о приготовлении пищи, созданными ИИ, ситуация более серьезная, утверждают эксперты: такие книги могут быть опасны для жизни. 

Нью-Йоркское микологическое общество опубликовало сообщение в социальной сети X с таким текстом: «@Amazon и другие торговые площадки завалены созданными искусственным интеллектом книгами по поиску и идентификации [грибов]. Пожалуйста, покупайте только книги известных авторов и собирателей, это может быть буквально вопросом жизни и смерти».

Автор 404 Media проанализировал две книги о грибах некоего Эдварда Дж. Смита (которого не удалось идентифицировать как специалиста по грибам или даже как живого человека) с помощью  инструмента обнаружения сгенерированного текста ZeroGPT. Обе книги оказались более чем на 85% созданы машинным способом, однако специальной отметки об этом книга не имеет.

В ответ на претензии Amazon провел расследование и удалил книги, вызвавшие скандал в СМИ. Однако сама проблема низкокачественной литературы, написанной нейросетями, пока далека от решения: генеративный ИИ постоянно эволюционирует, а о методах определения таких текстов знают не все издатели.