В 2023 году специалисты в области нейросетевых вычислений Илья и Захар Шумайловы описали явление, которое они назвали «коллапс модели». Под коллапсом модели авторы понимают процесс «вырождения», затрагивающий несколько поколений генеративных моделей, в ходе которого сгенерированные данные снова и снова загрязняют ту выборку, на котором обучается следующее поколение моделей. В недавней статье, опубликованной в журнале Nature, они ...

...В 2023 году специалисты в области нейросетевых...

В течение многих лет такие компании, как OpenAI и Google, собирали данные из интернета для обучения больших языковых моделей вроде ChatGPT. Эти модели в процессе обучения «переваривали» гигантские объемы текстов: публицистику, научные статьи, романы, инструкции, официальные документы, посты в соцсетях. Благодаря этой «пище» программы смогли сами генерировать нечто подобное. Но запасы созданных человеком письменных текстов иссякают. Исследовательская ...

...В течение многих лет такие компании, как OpenAI...

В издательстве «Грамота» вышел школьный «Словарь трудностей русского произношения». Он поможет ученикам 5–11-х классов правильно произносить те слова, которые включены в школьную программу и часто встречаются в их речевой практике. О том, каким законам подчиняется развитие звуковой стороны языка и какие задачи решает новый словарь, мы поговорили с одним из его авторов, доктором филологических наук, ведущим научным сотрудником отдела фонетики Института русского языка им. В. В. Виноградова РАН Дмитрием Савиновым. 

...В издательстве «Грамота» вышел школьный...

...Грамота: Чем ваш словарь отличается от обычного орфоэпического...