Ключевые слова в научных статьях, монографиях и других текстах нужны для того, чтобы потом по этим словам публикация могла быть отнесена к определенной теме и нашлась в поиске. Было бы удобно «вычислять» ключевые слова с помощью нейросетевых алгоритмов, которые автоматически прочитывают текст и определяют, о чем там идет речь. Сейчас подходы к определению ключевых слов в основном строятся на выделении их из текста. Однако в этом ...
...Ключевые слова в научных статьях, монографиях...
Векторное представление слова в компьютерной лингвистике — это сопоставление слову из некоторого словаря числового вектора фиксированной длины, который отражает совместную встречаемость слова с другими словами в корпусе текстов. Каким образом такая модель передает важные семантические признаки слова? Какие у нее есть преимущества и ограничения? Грамота решила подступиться к этой теме с помощью компьютерного лингвиста Бориса Орехова.
...Векторное представление слова в компьютерной лингвистике...
...Слово и его окружение Идея представления слова...
Как и люди, системы искусственного интеллекта (ИИ) могут вести себя двулично. Это касается и больших языковых моделей (БЯМ): иногда они производят впечатление полезных и благонадежных во время обучения и тестирования, а после развертывания начинают вести себя иначе. Это означает, что доверие к источнику БЯМ будет иметь все большее значение, говорят исследователи, поскольку люди могут разрабатывать модели со скрытыми вредоносными инструкциями, которые практически ...
...Как и люди, системы искусственного интеллекта...
Исследователи давно пытаются раскрыть роль электрической активности мозга в процессах, связанных с запоминанием информации. Гипотеза состояла в том, что направленная стимуляция поможет, например, эффективнее учить иностранные языки и восстанавливать знания после инсульта или травмы. Уже сейчас ряд компаний продают коммерческие продукты на основе транскраниальной стимуляции переменным током (tACS), позиционируя их как инструменты улучшения работы мозга (в том числе — при обучении).
...Исследователи давно пытаются раскрыть роль электрической...
Долгое время среди научных журналистов и даже среди лингвистов была популярна идея «серебряной пули». Считалось, что уникальная языковая способность человека возникла благодаря одному конкретному событию — например, случайной генетической мутации. Эта теория объясняла язык как внезапно возникший инстинкт, но оставляла за скобками вопрос: почему другие животные, обладающие развитым мозгом, так и не заговорили. Новая работа, опубликованная в
...Долгое время среди научных журналистов и даже...
Со второй половины 2010-х годов компьютерные языковые модели совершили революцию в обработке текстов. Они научились осмысленно отвечать на вопросы, делать переводы, писать рассказы и даже романы. Лингвисты восприняли эту революцию неоднозначно: кто-то — с оптимизмом, а кто-то — со скепсисом.
...Со второй половины 2010-х годов компьютерные языковые...
...Получившая громкую известность аббревиатура GPT расшифровывается...
Большинство нейросетевых языковых моделей обучаются на огромных массивах данных — в основном англоязычных, так как текстов на этом языке больше всего. При этом модели — если их дообучить — вполне могут генерировать тексты на других языках и делать переводы на эти языки, несмотря на то, что данных на этих языках, пригодных для обучения моделей, значительно меньше. Языковым моделям удается обходить эти ограничения благодаря тому, что они используют ...
...Большинство нейросетевых языковых моделей обучаются...
Зоны мозга, связанные с обработкой речи, почти не «подают голос», когда мы читаем грамматически простые и понятные предложения. Однако их активность возрастает, когда мы продираемся сквозь сложный текст. Но насколько сложным он должен быть? Исследователи из Массачусетского технологического института решили проверить, как речевые зоны реагируют на фразы разной сложности. Для начала они выбрали 1000 предложений из художественной литературы, расшифровок устной речи, текстов ...
...Зоны мозга, связанные с обработкой речи, почти не &...
Большие языковые модели — подобные тем, что используются в чат-ботах ChatGPT и других — могут писать рассказы, создавать контент-планы для соцсетей и даже шаблоны юридических документов. И все это — по запросу пользователя на обычном (естественном) языке. Но с операциями, требующими вычислений, модели справляются куда хуже. Почему? Дело в том, что языковая модель обучена на текстовых данных, которые для нее — просто данные.
...Большие языковые модели — подобные тем,...
Новогодние праздники — удачное время, чтобы отвлечь ум от насущных дел и предложить ему что-то новое и увлекательное. А книги о языке подходят для этого как нельзя лучше: тут и история слов, чтобы блеснуть эрудицией в разговоре, и волнующие загадки древности, и игры для взрослой и детской компании. Мы собрали для вас разнообразную предпраздничную подборку — семь книг, которые приятно дарить, но всегда можно оставить себе!
...Новогодние праздники — удачное время, чтобы...
...1. Синклер Маккей. Шифры цивилизации: коды, секретные...
