Зоны мозга, связанные с обработкой речи, почти не «подают голос», когда мы читаем грамматически простые и понятные предложения. Однако их активность возрастает, когда мы продираемся сквозь сложный текст. Но насколько сложным он должен быть? Исследователи из Массачусетского технологического института решили проверить, как речевые зоны реагируют на фразы разной сложности. Для начала они выбрали 1000 предложений из художественной литературы, расшифровок устной речи, текстов ...
...Исследование: какие фразы сильнее возбуждают речевые...
...Затем специалисты ввели те же 1000 предложений в большую языковую модель — нейросетевую программу, похожую на ChatGPT, которая учится порождать и понимать языковые выражения, предсказывая следующее слово в огромных объемах текста, — и зафиксировали паттерны активации модели в ответ на каждое...
Со второй половины 2010-х годов компьютерные языковые модели совершили революцию в обработке текстов. Они научились осмысленно отвечать на вопросы, делать переводы, писать рассказы и даже романы. Лингвисты восприняли эту революцию неоднозначно: кто-то — с оптимизмом, а кто-то — со скепсисом.
...Со второй половины 2010-х годов компьютерные языковые...
...Чат-боты GPT и другие: что думают лингвисты о больших...
...С этим связан и огромный масштаб возможных злоупотреблений: модели GPT могут эффективно порождать тексты для любых задач, но у них нет осознания ответственности. Модель открывает ящик Пандоры в смысле создания дешевых и эффективных текстов....
... Человеческий разум оперирует значительно меньшими объемами информации, чтобы порождать сложные языковые конструкции. Маленький ребенок, рассуждает Хомский, бессознательно, автоматически и быстро развивает грамматику — потрясающе сложную, но опирающуюся на мизерное количество данных....
...в 1950–1960-х годах, когда дисциплина только начала появляться, казалось, что достаточно применить традиционные методы описания языка, сделав их более точными, чтобы машина их могла понимать, и добавить какие-то специально введенные понятия, «и машина будет переводить, суммаризировать и порождать...
Большие языковые модели — нейросети, способные порождать тексты на естественном языке, — обычно обучаются на текстах. Ключевое отличие обучения таких программ от обучения людей заключается в том, что люди овладевают языком, не прибегая к использованию таких колоссальных объемов однородных данных. При этом программы еще и допускают нелепые (с нашей точки зрения) ошибки. Один из альтернативных подходов — позволить машинам учиться так, как учатся ...
...Нейросеть выучилась понимать язык без использования...
...Большие языковые модели — нейросети, способные порождать тексты на естественном языке, — обычно обучаются на текстах....
Большие языковые модели (чат-боты на основе искусственного интеллекта, обученные на больших массивах языковых данных) могут порождать связные, осмысленные предложения и даже тексты, в чем многие уже могли убедиться на собственном опыте. Но насколько они способны «понимать» внутреннюю логику человеческого языка, остается неясным. К примеру, если такие модели в ходе обучения находят связи между буквами и словами, могут ли они отличить грамматически правильное ...
...Нейросети проиграли людям при поиске грамматических...
...Большие языковые модели (чат-боты на основе искусственного интеллекта, обученные на больших массивах языковых данных) могут порождать связные, осмысленные предложения и даже тексты, в чем многие уже могли убедиться на собственном опыте....
Учебная книга формирует наше мировоззрение, поддерживает связь поколений и укрепляет культурную традицию. Но в традициях обучения есть и различия, которые вносят время и культура региона. Особенно эти различия заметны в книгах, предназначенных для обучения языку.
...Учебная книга формирует наше мировоззрение, поддерживает...
...«Простое прилежное читание»...
...Она позволяет порождать такие произведения словесности, содержание которых будет новым. Конечно, среди этих новых текстов могут оказаться и тексты, отрицающие книги христианского канона....
Этой осенью Грамота вступает в эпоху перемен. В чем будут заключаться эти перемены? Какая идея стоит за ними? И, самое главное, будет ли Грамота по-прежнему самым авторитетным сетевым источником сведений о русском языке? О смысле обновления и планах на будущее рассказывает главный редактор портала Ксения Киселева.
...Этой осенью Грамота вступает в эпоху перемен. В чем...
...Грамота меняется, но не изменяет себе...
...Широкая трактовка термина «грамотность» как умения не только понимать и порождать тексты, но и решать практические задачи с помощью языка лежит в основе тех перемен, которые начались на Грамоте в 2023 году....
Векторное представление слова в компьютерной лингвистике — это сопоставление слову из некоторого словаря числового вектора фиксированной длины, который отражает совместную встречаемость слова с другими словами в корпусе текстов. Каким образом такая модель передает важные семантические признаки слова? Какие у нее есть преимущества и ограничения? Грамота решила подступиться к этой теме с помощью компьютерного лингвиста Бориса Орехова.
...Векторное представление слова в компьютерной лингвистике...
...Что такое векторные модели и как можно их использовать...
...А если речь идет о сгенерированных текстах, которые можно порождать тоннами в секунду, то такого ученого не будут воспринимать всерьез....
Проблемы, которые мы здесь обсуждаем, в конечном итоге сводятся к оценке состояния русского языка, и зеркалом этого состояния является язык средств массовой информации. Само слово «состояние» заряжено негативной оценкой, предполагает какие-то дефекты в предмете. Ср. «состояние больного внушает опасения», «состояние конструкции здания чревато опасностями» и т. п. Но когда мы говорим о состоянии языка, мы разве озабочены разрушением его морфологического строя? Или нас настораживают изменения в его фонетике, в его синтаксисе?
...Проблемы, которые мы здесь обсуждаем, в конечном итоге...
...Культура речи и языковая критика...
...Действие другого закона психолингвистического характера — закона экономии усилий, являющегося одним из главных факторов развития языка, — тоже может приводить к отрицательным последствиям, порождать ошибки....
На YouTube-канале «Основа», который ведет режиссер и блогер Борис Веденский, уже год регулярно появляются интервью со специалистами в разных областях и представителями разных наук, которые умеют популяризировать научные знания, заинтересовывать своей областью самую широкую аудиторию. Гостями канала уже побывали лингвисты Владимир Пахомов, Федор Успенский, Игорь Исаев, Георгий Старостин.
...На YouTube-канале «Основа», который ведет...
...На канале «Основа» вышел разговор с Александром Пиперски...
...Александр Пиперски в разговоре с ведущим...
27 июня в международном мультимедийном пресс-центре «Россия сегодня» состоялась пресс-конференция Института русского языка Российского университета дружбы народов. Об уникальных образовательных программах бакалавриата «Прикладная цифровая филология» и магистратуры «Цифровые инновации в филологии» рассказали участники пресс-конференции: — директор Института русского языка РУДН, член Совета при Президенте Российской Федерации по русскому ...
...Зачем ИТ-специалисту нужна филология, а филологу —...
...27 июня в международном мультимедийном пресс-центре...
