Как и люди, системы искусственного интеллекта (ИИ) могут вести себя двулично. Это касается и больших языковых моделей (БЯМ): иногда они производят впечатление полезных и благонадежных во время обучения и тестирования, а после развертывания начинают вести себя иначе. Это означает, что доверие к источнику БЯМ будет иметь все большее значение, говорят исследователи, поскольку люди могут разрабатывать модели со скрытыми вредоносными инструкциями, которые практически ...
...Как и люди, системы искусственного интеллекта...
Нейросети учатся на текстах, созданных человеком. Но что, если текстов для обучения не хватает? Тогда используют синтетические данные, сгенерированные моделью. В чем их особенности? Как повлияет появление большого количества «искусственных» текстов на нас как носителей естественного языка? Мы поговорили об этом с руководителем ИИ-направления Грамоты, компьютерным лингвистом Михаилом Копотевым.
...Нейросети учатся на текстах, созданных человеком. Но...
...Грамота: Одна из страшилок, связанных с развитием...
В рамках исследования авторы работы (сотрудники двух факультетов МГУ — иностранных языков и регионоведения, вычислительной математики и кибернетики) протестировали способность пяти ведущих больших языковых моделей — ChatGPT-4, Gemini-pro-1.5, Claude 3 Opus, Llama3-70b и Microsoft Phi-3 — выполнять письменные задания из популярных учебников, выпущенных издательствами Oxford University Press и Pearson Education. Моделям требовалось выполнить следующие ...
...В рамках исследования авторы работы (сотрудники...
Большинство нейросетевых языковых моделей обучаются на огромных массивах данных — в основном англоязычных, так как текстов на этом языке больше всего. При этом модели — если их дообучить — вполне могут генерировать тексты на других языках и делать переводы на эти языки, несмотря на то, что данных на этих языках, пригодных для обучения моделей, значительно меньше. Языковым моделям удается обходить эти ограничения благодаря тому, что они используют ...
...Большинство нейросетевых языковых моделей обучаются...
Не секрет, что русский язык активно заимствует лексику из других языков, причем этот процесс на протяжении истории проходит через периоды затишья и всплесков. Зачем нужны «чужие» слова? Не портят ли язык заимствования? Надо ли с ними бороться и как? Зачем русскому языку слово тинейджер, если уже есть подросток? Об этом и о многом другом рассказывает филолог, член Орфографической комиссии РАН Мария Михайловна Ровинская.
...Не секрет, что русский язык активно заимствует лексику...
Гендерная проблематика явилась для лингвистики последних десятилетий подлинным открытием, хотя для ряда языков (например, японского, корейского, чукотского и др.) разделение языка на мужской и женский варианты было обыденным явлением, незаметным, как воздух, которым дышит человек (конечно, до поры до времени незаметным).
...Гендерная проблематика явилась для лингвистики последних...
...Европейские языковеды наперегонки бросились открывать...
Фраза «Не опять, а снова!» — речевая ошибка? Можно ли употреблять слово «обратно» в значении «опять»? Эти вопросы обсуждаются в журнале «Наука и жизнь».
...Фраза «Не опять, а снова!» — речевая...
...Слова опять и снова обозначают повторение действия....
В блоке команды чат-бота BotHub на портале «Хабр» вышла статья о том, может ли машинный интеллект находить и исправлять ошибки в русскоязычном тексте, как настоящий корректор. Для испытания автор отобрал 13 популярных инструментов — от передовых языковых моделей до специализированных корректорских сервисов.
...В блоке команды чат-бота BotHub на портале...
...Методология Автор стремился выжать из ИИ-корректоров...
Возможно, метафоры и нарративы — не первое, что приходит на ум, когда мы думаем про рынки и инвестиции. Но экономика завязана на обмене информацией, и лексика или тональность новостных сообщений играют в экономическом взаимодействии более существенную роль, чем кажется на первый взгляд. Грамота рекомендует несколько публикаций издания «Эконс», которые показывают отношения между языком и экономикой с неожиданной стороны.
...Возможно, метафоры и нарративы — не...
...1. Как язык связан с богатством и долгом...
В новом номере среди прочих тем обсуждаются написание и функционирование заимствованного слова «фреш», история формирования русской научной терминологии в XVII веке и происхождение частицы «бишь».
...В новом номере среди прочих тем обсуждаются написание...
...Портрет слова В современных публицистических...
