Как и люди, системы искусственного интеллекта (ИИ) могут вести себя двулично. Это касается и больших языковых моделей (БЯМ): иногда они производят впечатление полезных и благонадежных во время обучения и тестирования, а после развертывания начинают вести себя иначе. Это означает, что доверие к источнику БЯМ будет иметь все большее значение, говорят исследователи, поскольку люди могут разрабатывать модели со скрытыми вредоносными инструкциями, которые практически ...
...Приличное поведение больших языковых моделей может...
...Как и люди, системы искусственного интеллекта...
Кажется, что машины начали вести с нами диалог совсем недавно. На самом деле их история насчитывает несколько десятилетий. Сам термин «чат-бот» появился в 1994 году — его предложил компьютерный инженер Майкл Молдин. А идея программного обеспечения, способного взаимодействовать с людьми на естественном языке, родилась гораздо раньше. Грамота рассказывает о том, как разработчики в разные годы пытались научить бездушные машины общаться по-человечески.
...Кажется, что машины начали вести с нами диалог...
...Создать себе подобных: как люди придумали чат-ботов...
...Работа по сценарию Разработчики будущих чат-ботов...
Генеративные нейросети обучаются на огромных объемах данных, что позволяет им создавать осмысленные тексты за секунды. При этом они явно перенимают от своих «учителей» не только хорошее. Исследователи из Массачусетсского технологического института проанализировали случаи намеренного обмана и манипуляций со стороны больших языковых моделей и моделей, обученных под специфические задачи (например, видеоигры или торги на рынке). Выяснилось, что даже когда моделям на этапе ...
...Нейросети научились обману и манипуляциям вопреки запретам...
...Генеративные нейросети обучаются на огромных объемах...
Большие языковые модели (чат-боты на основе искусственного интеллекта, обученные на больших массивах языковых данных) могут порождать связные, осмысленные предложения и даже тексты, в чем многие уже могли убедиться на собственном опыте. Но насколько они способны «понимать» внутреннюю логику человеческого языка, остается неясным. К примеру, если такие модели в ходе обучения находят связи между буквами и словами, могут ли они отличить грамматически правильное ...
...Нейросети проиграли людям при поиске грамматических...
...Большие языковые модели (чат-боты на основе искусственного...
Новую разработку представили выпускники Института прикладных информационных технологий и коммуникаций Саратовского государственного технического университета им. Ю. А. Гагарина (ИнПИТ СГТУ). Приложение позволяет изучать теоретические основы РЖЯ, просматривать словарь и овладевать отдельными жестами, проверять свои знания и проходить интерактивное тестирование. Уникальность приложения в том, что в него встроена нейросеть, которая ...
...Приложение для распознавания русского жестового языка...
...Новую разработку представили выпускники Института...
Инструменты, о которых пойдет речь ниже, не сделают всю работу за редактора, но способны существенно упростить ему жизнь. Они не только возьмут на себя рутинные задачи, такие как проверка орфографии и степени оригинальности текста, оформление списка литературы или замена кавычек, но и подскажут удачные решения в более сложных областях.
...Инструменты, о которых пойдет речь ниже, не сделают...
...Цифровые инструменты в помощь редактору...
...Проверка орфографии Автоматическая проверка орфографии...
Выбором «слова года» занимаются авторитетные словари, языковые институты, газеты и сайты. С недавнего времени такую акцию проводит и Грамота. Чем отличается наш подход к определению «слова года»? Как мы собираем данные, фильтруем и оцениваем их? Приоткрываем дверь на нашу социолингвистическую кухню. И предупреждаем: у большого «слова года» будет свита из «главных слов» в разных сферах.
...Выбором «слова года» занимаются авторитетные...
...Слово года по версии Грамоты. Как мы его выбираем?...
...Вторые «выборы»: развиваем методологию...
В этом году чемпионат проходит в России в четвертый раз. Это не совсем обычное соревнование: подростки могут здесь написать эссе по математике, трактат по физкультуре или концепцию музыкального фестиваля. О том, зачем понадобилась альтернатива школьному «итоговому сочинению», рассказал председатель экспертного жюри, доцент факультета гуманитарных наук НИУ ВШЭ и руководитель Лаборатории развития интеллектуальных состязаний Михаил Павловец.
...В этом году чемпионат проходит в России в четвертый...
...На чемпионате сочинений «Своими словами» дети решают...
...Грамота: В чем особенность вашего чемпионата, чем он...
Уже сейчас писатели издают книги, которые написаны ими в соавторстве с нейросетями. Спецпроект «Писатели vs Нейросети», созданный изданиями «Системный Блокъ» и «Подтекст», анализирует, какие этапы создания художественного текста может упростить нейросеть и насколько полезны языковые модели.
...Уже сейчас писатели издают книги, которые написаны...
...Сможет ли искусственный интеллект заменить писателей...
...Кто лучше напишет рассказ? В ходе эксперимента писателю...
Кто бы ни брался за создание «расширительного» словаря того или иного типа, все непременно приходили к Далю — к этому великому человеку-словарю. Подавляющее большинство людей связывает имя Даля со знаменитым четырехтомником. Все остальное, что сделал, написал, пережил Владимир Иванович, заслонено его «Словарем».
...Кто бы ни брался за создание «расширительного...
...К двухсотлетию со дня рождения Владимира Ивановича...
...Весть из Вермонта В конце 1989 года в «Литературной...
