Могут ли нейросети написать «Войну и мир» и куда они заведут человечество

Какой из ИИ писатель?

В начале лекции Дмитрий Коломацкий рассказал анекдот про Льва Толстого.

Приходит Лев Толстой к психотерапевту и говорит: «Доктор, у меня проблема — я не могу перестать писать длинные романы». Психотерапевт отвечает: «Давайте попробуем сократить вашу следующую книгу до одного предложения». Толстой (задумчиво): «Хорошо, но тогда это будет не ‘‘Война и мир’’, а ‘‘Война — это плохо, а мир — хорошо’’.

Кто это написал — нейросеть или человек? Этот анекдот написала нейросеть «Алиса». Чтобы сгенерировать шутку, ИИ всегда берет на вооружение лишь очень простую и шаблонную идею — в данном случае тот факт, что Лев Толстой писал длинные романы.

Порождением текста занимаются большие языковые модели — одна из разновидностей ИИ. Языковая модель — большая машина для угадывания: она предсказывает последовательность слов на основе фразы, которую ввел пользователь. Самые известные модели помимо «Алисы» — ChatGPT от Open AI, Gemini от Google, Claude от Anthropic и Grok от xAI.

Языковые модели обучаются в два этапа:

1. Предварительное обучение (общий анализ текстов).
2. Тонкая настройка (англ. fine-tuning) для конкретных задач — дообучение (англ. supervised fine-tuning) с участием человека и оптимизация поведения модели с помощью системы «наград».

Дообучение позволяет нейросети хорошо копировать авторский стиль. Можно сказать чат-боту: «Перепиши это так, как сказал бы Лев Толстой».

Есть сферы, в которых большие языковые модели уже сегодня превосходят человека:

• написание аннотаций и отчетов;
• представление данных в нужном формате;
• поиск и систематизация;
• написание текста в любом стиле и любого объема;
• быстрое распознавание и структуризация текста на десятках языков.

Но человек благодаря особенностям мозга способен быть креативным, мыслить нестандартно.

Люди могут осваивать язык на основе небольшого объема данных, тогда как нейросетям требуется огромный массив текстов (сейчас такие массивы есть для очень небольшого числа языков). В отличие от человека ИИ не способен связать высказывание с опытом и чувствами, у него отсутствует эмпатия. Кроме того, большие языковые модели по-прежнему не очень эффективны в решении математических задач, поэтому математики без работы не останутся.

Чтобы написать нечто похожее на «Войну и мир» в мире, где это произведение уже написано, не нужна креативность. Но чтобы написать совершенно неизвестный роман в абсолютно новом стиле, она необходима, а большие языковые модели ее лишены.

Новые технологии: утопия или антиутопия?

В 1956 году прошел Дартмутский семинар — конференция по вопросам искусственного интеллекта в Дартмутском колледже. Тогда впервые было произнесено словосочетание artificial intelligence, ‘искусственный интеллект’. Эти технологии совершенствуются уже более 70 лет, их улучшение идет в ногу с повышением мощности вычислительной техники, поэтому возможности ИИ растут с каждым годом по экспоненте.

«Чем больше вычислений мы можем сделать, тем больше данных мы можем использовать для обучения и тем более умным будет наш искусственный интеллект», — отмечает Константин Воронцов.

Уже к середине XXI века вычислительные мощности ИИ будут больше, чем совокупная мощность мозгов всех людей на земле.

Такое предсказание сделал когда-то американский изобретатель и футуролог Рэймонд Курцвейл. Эта точка, которую Курцвейл назвал сингулярностью, приходится примерно на 2045 год. По мнению футуролога, искусственный интеллект начнет развиваться столь быстро, что люди перестанут его понимать, а у него появятся свои собственные цели и интересы. Эта идея стала основой для огромного количества постапокалиптических сценариев: что, если ИИ отнимет у нас работу, взбунтуется, поработит нас и уничтожит человеческую цивилизацию?

Константин Воронцов настроен не так пессимистично, но признает, что некоторые риски в развитии ИИ действительно существуют. Вероятно, в какой-то момент у каждого человека появится цифровой помощник, который будет хранить в себе информацию обо всей жизни хозяина, а когда тот умрет — помощник станет его аватаром. Далекие потомки получат возможность через этого аватара «пообщаться» с умершим предком. При этом важно не допустить, чтобы цифровые копии выдавали себя за настоящих людей.

Нам уже сейчас стоит думать о том, на каких принципах будет строиться человеко-машинная коммуникация.

Константин Воронцов полагает, что у роботов вследствие отсутствия физических потребностей не возникнет мотивации завоевывать мир, но некоторые злонамеренные люди вполне могут использовать их в своих целях. Другая реальная опасность — деградация интеллектуальных способностей людей из-за того, что все больше обязанностей перекладывается на машины. Чтобы этого не происходило, необходимо правильно воспитывать школьников, объясняя им важность интеллектуальной работы.