ИИ лучше учится, когда проговаривает свои действия

Проговаривание своих действий и переживаний — не просто одна из причуд нашего разума. Внутренняя речь служит инструментом, помогающим структурировать мышление. Так считал, например, выдающийся психолог Лев Выготский. Он наблюдал, как маленькие дети говорят сами с собой во время решения игровых задач, и это помогает им найти решение.

Исследователи из Окинавского института науки и технологий (Япония) решили внедрить похожую практику в обучение ИИ. Для этого они добавили два ключевых элемента: первый — цифровые «контейнеры» (аналог кратковременной памяти человека), куда модель могла откладывать кусочки информации во время выполнения задачи (например, промежуточный шаг вычислений), второй — та самая внутренняя речь, или текстоподобные внутренние сигналы, комментирующие работу модели с данными (авторы назвали его «бормотанием», англ. mumbling).

Чтобы оценить эффективность нововведения, авторы сравнили две группы моделей. Первая располагала только обычными ячейками памяти, а вторая имела ячейки кратковременной памяти и была обучена «разговаривать сама с собой». Когда задачи были простыми, обе группы справлялись одинаково. Но как только ученые включали режим многозадачности, стандартный ИИ путался и быстро забывал предыдущие инструкции.

Модели с «внутренним голосом» использовали бормотание как связующий мост. Своими внутренними командами они сами себе напоминали, в каком контексте находятся. В итоге они обучались в разы быстрее, точнее переключались между целями, и, что самое главное, требовали кратно меньше массивов данных для обучения, так как координировали свои действия сами.