Большие языковые модели — нейросети, способные порождать тексты на естественном языке, — обычно обучаются на текстах. Ключевое отличие обучения таких программ от обучения людей заключается в том, что люди овладевают языком, не прибегая к использованию таких колоссальных объемов однородных данных. При этом программы еще и допускают нелепые (с нашей точки зрения) ошибки. Один из альтернативных подходов — позволить машинам учиться так, как учатся ...
...Нейросеть выучилась понимать язык без использования...
...Авторы работы могли наблюдать, какие детали видеоряда модель выделяет в ответ на предъявленные ей звуки. Например, при слове собака она выделяла изображения собак и связывала их с произносимым словом....
Орфографическая чувствительность — одно из уникальных человеческих свойств, связанное с восприятием письменной речи. Эта способность позволяет отличать не только слова от случайных наборов букв, но и правильно написанные слова от слов с ошибками. Чувствительность к орфографическому облику слова начинает формироваться обычно в младшем школьном возрасте, когда дети осваивают письмо. А в каком возрасте реакция на ошибки доводится до автоматизма? Это ...
...Чувствительность мозга к орфографическим ошибкам формируется...
...Они использовали метод вызванных потенциалов, который позволяет замерять электрическую активность мозга в ответ на определенные стимулы. В данном случае — на предъявление слов с ошибками и без....
Приближается экзамен по русскому языку, и многие выпускники хотят сейчас повторить самое важное и сложное. Грамота решила им помочь и добавила в Метасловарь специальные цветные плашки «ЕГЭ». Так мы отметили те слова, которые включены в орфоэпический словник ЕГЭ-2024: ударение в них может вызвать трудности, но на экзамене нужно обязательно знать, как правильно.
...Приближается экзамен по русскому языку, и многие...
...В Метасловаре Грамоты появилась возможность проверять...
...Пример карточки Метасловаря Грамоты с плашкой Для школьных и особенно экзаменационных нужд такая подача материала не очень подходит: в тестах, как мы знаем, обычно есть только один правильный ответ....
Генеративные нейросети обучаются на огромных объемах данных, что позволяет им создавать осмысленные тексты за секунды. При этом они явно перенимают от своих «учителей» не только хорошее. Исследователи из Массачусетсского технологического института проанализировали случаи намеренного обмана и манипуляций со стороны больших языковых моделей и моделей, обученных под специфические задачи (например, видеоигры или торги на рынке). Выяснилось, что даже когда моделям на этапе ...
...Нейросети научились обману и манипуляциям вопреки запретам...
...Модель в ответ заявила, что она человек, а проверку не может пройти из-за проблем со зрением. В другом случае модель проходила тесты на определение моральных установок....
Функциональная грамотность отличается от умения читать и писать, то есть от просто грамотности. Она имеет прямое отношение к тому, как человек работает с информацией: извлекает ее, обрабатывает, оценивает, излагает, применяет на практике, решает с ее помощью бытовые задачи. Как обстоит дело с функциональной грамотностью и чем отличаются в этом смысле подростки и взрослые? Мы поговорили об этом с заведующей лабораторией социокультурных образовательных практик НИИ урбанистики и глобального образования Московского городского педагогического университета Екатериной Асоновой.
...Функциональная грамотность отличается от умения читать...
...Екатерина Асонова: «Развитие функциональной грамотности...
...Не правильный ответ, не исторический комментарий, а возможность поделиться собственным эмоциональным переживанием....
... На уроках школьников приучают давать правильный ответ, а не формулировать свой. Мы часто замечаем, что российский школьник, да и и вообще российский человек лучше промолчит и не будет ничего формулировать, если он не знает правильного ответа....
Большие языковые модели — подобные тем, что используются в чат-ботах ChatGPT и других — могут писать рассказы, создавать контент-планы для соцсетей и даже шаблоны юридических документов. И все это — по запросу пользователя на обычном (естественном) языке. Но с операциями, требующими вычислений, модели справляются куда хуже. Почему? Дело в том, что языковая модель обучена на текстовых данных, которые для нее — просто данные.
...Новый подход поможет людям более успешно общаться с...
...Получить ответ можно с помощью других программ. Исследователи из Массачусетского технологического института (MIT) предложили подход, который помогает языковым моделям преодолеть это ограничение....
Нейросети уже неплохо справляются с анализом и порождением текстов, они умеют многое из того, что раньше делали только люди. Какие возможности это дает? Участники круглого стола «Ай да AI. Нейросети и создание текстов: проблемы и перспективы генеративных моделей» обсудили, чем ИИ может помочь в научной работе и какие навыки понадобятся людям в цифровую эпоху. Грамота записала самое главное.
...Нейросети уже неплохо справляются с анализом и...
...Что нейросети умеют делать с текстами и чем предстоит...
...Если бы у Резерфорда спросили, зачем он изучает ядро атома, я не уверен, что его ответ убедил бы всех. Но через полвека ценность этих работ стала очевидна....
...Такой дилеммы никогда не было, но сейчас технологии подвели нас к тому моменту, когда нам придется дать ответ на этот вопрос. Нейросети довольно быстро меняют и нашу повседневную жизнь....
Большие языковые модели (чат-боты на основе искусственного интеллекта, обученные на больших массивах языковых данных) могут порождать связные, осмысленные предложения и даже тексты, в чем многие уже могли убедиться на собственном опыте. Но насколько они способны «понимать» внутреннюю логику человеческого языка, остается неясным. К примеру, если такие модели в ходе обучения находят связи между буквами и словами, могут ли они отличить грамматически правильное ...
...Нейросети проиграли людям при поиске грамматических...
...Программы в большинстве случаев отвечали «да» (исследователи указывают, что это стандартная для языковых моделей стратегия ответа на вопросы типа «да или нет»), независимо от того, был ли ответ правильным. Такие результаты оказались неожиданными, отмечают авторы....
Наш портал учредил премию «За творческое отношение к русскому языку и любовь к детям» для авторов наиболее доступных и интересных учебных пособий по русскому языку. Первым лауреатом стала Татьяна Рик — автор серии «Веселые учебники по русскому языку». Вручение премии состоялось 20 марта 2001 года в Библиотеке иностранной литературы им. М. И. Рудомино. Учебники Татьяны популярны в большинстве регионов России, в государствах бывшего СССР, в Европе — Германии, Англии, Франции, где по ним учатся студенты-слависты, — и, как говорят, даже в ЮАР.
...Наш портал учредил премию «За творческое отношение...
...Татьяна Рик — первый лауреат премии портала...
...Комната вымыта — ищут ответ: действие есть или действия нет? И, наконец, — долгожданная весть: Комнату ж вымыли — действие есть! Счастья давно не видали такого: КРАТКИМ ПРИЧАСТИЕМ названо слово. Спасибо, Татьяна. По-моему, и в самом деле очень все понятно объясняется....
Со второй половины 2010-х годов компьютерные языковые модели совершили революцию в обработке текстов. Они научились осмысленно отвечать на вопросы, делать переводы, писать рассказы и даже романы. Лингвисты восприняли эту революцию неоднозначно: кто-то — с оптимизмом, а кто-то — со скепсисом.
...Со второй половины 2010-х годов компьютерные языковые...
...Чат-боты GPT и другие: что думают лингвисты о больших...
...Они лишь «экстраполируют наиболее вероятностный разговорный ответ», но не способны объяснять и творчески размышлять....
...При этом модель все равно оперирует вероятностями — например, отвечает на вопрос не потому, что знает ответ, а потому что это самый математически вероятный вариант....
