Исследователи из Массачусетского технологического института (MIT) нашли объяснение так называемого U-образного эффекта, который характерен для больших языковых моделей вроде ChatGPT. Суть этого эффекта в том, что модели обрабатывают разные части текста с разной точностью. Чем дальше от центра текста, тем точность выше (отсюда и название — график точности имеет спад в центре, отчего становится похож на букву U). Что это означает? Например, если модели нужно ...

...Исследователи из Массачусетского технологического...

Современные генеративные модели, такие как ChatGPT, уже активно применяются для написания научных статей и выпускных работ. Выявить разницу между человеческим и сгенерированным текстом становится всё труднее. При этом квалификационные, другие учебные и научные работы предполагают академическую честность, поэтому необходимы инструменты для выявления таких фрагментов. Команда исследователей из НИУ ВШЭ создала две программы для выявления в научных текстах фрагментов, созданных ...

...Современные генеративные модели, такие как ChatGPT,...

Как убедиться, что текст достаточно прост и понятен — например, для детей определенного возраста, иностранцев или людей с ментальными особенностями? Сегодня определить уровень доступности текста помогают не только разнообразные формулы читабельности, но и искусственный интеллект. О возможных подходах к оценке текстов разных типов Грамота расспросила кандидата педагогических наук Антонину Лапошину, специалиста по компьютерной лингвистике в лаборатории когнитивных и лингвистических исследований Института Пушкина.

...Как убедиться, что текст достаточно прост и понятен...

...Грамота: На что опираются системы оценки сложности/...

В 2023 году специалисты в области нейросетевых вычислений Илья и Захар Шумайловы описали явление, которое они назвали «коллапс модели». Под коллапсом модели авторы понимают процесс «вырождения», затрагивающий несколько поколений генеративных моделей, в ходе которого сгенерированные данные снова и снова загрязняют ту выборку, на котором обучается следующее поколение моделей. В недавней статье, опубликованной в журнале Nature, они ...

...В 2023 году специалисты в области нейросетевых...

Рукопись была случайно обнаружена в 2019 году в библиотеке Кембриджского университета — из нее сделали обложку хозяйственного реестра. Страницы были сложены, порваны и вшиты в переплет, так что традиционные методы реставрации могли бы нанести документу непоправимый ущерб. Команда исследователей из университетской Лаборатории визуализации культурного наследия (CHIL) использовала комплексную технику цифровой реставрации, чтобы не только восстановить текст, но и пролить свет на историю ...

...Рукопись была случайно обнаружена в 2019 году...