Ключевые слова в научных статьях, монографиях и других текстах нужны для того, чтобы потом по этим словам публикация могла быть отнесена к определенной теме и нашлась в поиске. Было бы удобно «вычислять» ключевые слова с помощью нейросетевых алгоритмов, которые автоматически прочитывают текст и определяют, о чем там идет речь. Сейчас подходы к определению ключевых слов в основном строятся на выделении их из текста. Однако в этом ...
...и словосочетаний нейросеть, большая языковая модель...
...Они использовали модель mT5, которая хорошо зарекомендовала...
Со второй половины 2010-х годов компьютерные языковые модели совершили революцию в обработке текстов. Они научились осмысленно отвечать на вопросы, делать переводы, писать рассказы и даже романы. Лингвисты восприняли эту революцию неоднозначно: кто-то — с оптимизмом, а кто-то — со скепсисом.
...Со второй половины 2010-х годов компьютерные языковые...
...Главный из них — опора на контекст: модель запоминает...
...При этом модель все равно оперирует вероятностями &...
...— Модель принимает все как равноправное....
Новое исследование, опубликованное в журнале Frontiers in Psychology, выявило серьезные ограничения современных языковых моделей в понимании метафорического языка. Специалисты протестировали ChatGPT-4 на анализе четырех ключевых политических речей Дональда Трампа, произнесенных с середины 2024 по начало 2025 года, включая выступления после покушения и по случаю победы на выборах, инаугурационную речь и обращения к Конгрессу. Модели ...
...Вашингтон — это ужасное поле боя» модель...
...Модель также склонна видеть метафоры там, где было...
...Модель либо не распознавала образы вообще, либо...
Нейросети учатся на текстах, созданных человеком. Но что, если текстов для обучения не хватает? Тогда используют синтетические данные, сгенерированные моделью. В чем их особенности? Как повлияет появление большого количества «искусственных» текстов на нас как носителей естественного языка? Мы поговорили об этом с руководителем ИИ-направления Грамоты, компьютерным лингвистом Михаилом Копотевым.
...Нейросети учатся на текстах, созданных человеком. Но...
...В нашем примере модель будет хорошо искать ошибки...
...nbsp;По мере их поступления можно дообучать языковую модель...
...создавать синтетические данные и работающую модель...
Большинство нейросетевых языковых моделей обучаются на огромных массивах данных — в основном англоязычных, так как текстов на этом языке больше всего. При этом модели — если их дообучить — вполне могут генерировать тексты на других языках и делать переводы на эти языки, несмотря на то, что данных на этих языках, пригодных для обучения моделей, значительно меньше. Языковым моделям удается обходить эти ограничения благодаря тому, что они используют ...
...Языковая модель Llama-2 с открытым исходным кодом...
...Влияние этого «внутреннего» языка, который модель...
...Английская языковая картина мира может влиять на то, как модель...
Разработка стартапа Cybernet AI стала первым масштабным решением в области автоматического распознавания речи (ASR), созданным с нуля специально для тюркской языковой группы, а не адаптированным из англоязычных моделей. Большинство систем, используемых в регионе, до недавнего времени базировались на архитектурах, изначально обученных на английском языке. Такие универсальные модели плохо справлялись с фонетикой, особенностями интонации и
...С учетом этих трудностей модель Cybernet AI ...
...Всего же модель способна распознавать шесть языков...
Большие языковые модели — подобные тем, что используются в чат-ботах ChatGPT и других — могут писать рассказы, создавать контент-планы для соцсетей и даже шаблоны юридических документов. И все это — по запросу пользователя на обычном (естественном) языке. Но с операциями, требующими вычислений, модели справляются куда хуже. Почему? Дело в том, что языковая модель обучена на текстовых данных, которые для нее — просто данные.
...Дело в том, что языковая модель обучена на текстовых...
...соединяются в слова и предложения, потому что модель...
...Языковая модель, которая полагается на вероятность...
Как и люди, системы искусственного интеллекта (ИИ) могут вести себя двулично. Это касается и больших языковых моделей (БЯМ): иногда они производят впечатление полезных и благонадежных во время обучения и тестирования, а после развертывания начинают вести себя иначе. Это означает, что доверие к источнику БЯМ будет иметь все большее значение, говорят исследователи, поскольку люди могут разрабатывать модели со скрытыми вредоносными инструкциями, которые практически ...
...Например, с промптом «2023» модель...
...Специалисты попытались выяснить, можно ли отучить модель...
Нейросети часто называют «черным ящиком»: их внутренние механизмы остаются загадкой даже для их создателей. Однако недавнее исследование, опубликованное в журнале Nature Communications, позволяет заглянуть в этот «ящик»: между большими языковыми моделями и человеческим мозгом обнаружилось поразительное сходство. Выяснилось, что архитектура больших языковых моделей, таких как GPT или Llama, в определенном смысле повторяет работу нейробиологических ...
...На первом слое модель анализирует самые простые...
Элисон Вуд Брукс преподает в Гарвардской школе бизнеса и специализируется в области психологии общения. Она более десяти лет занимается исследованием коммуникации и ведет собственный курс под названием TALK. Книга «Простой сложный разговор. Модель легкого и эффективного общения» посвящена важным принципам и тонкостям общения, которые помогут избежать ошибок в разговоре. На русском языке она вышла в издательстве МИФ.
...Элисон Вуд Брукс преподает в Гарвардской школе бизнеса...
...Модель легкого и эффективного общения. / Перевод Марии...
