Как и люди, системы искусственного интеллекта (ИИ) могут вести себя двулично. Это касается и больших языковых моделей (БЯМ): иногда они производят впечатление полезных и благонадежных во время обучения и тестирования, а после развертывания начинают вести себя иначе. Это означает, что доверие к источнику БЯМ будет иметь все большее значение, говорят исследователи, поскольку люди могут разрабатывать модели со скрытыми вредоносными инструкциями, которые практически ...
...Вывод о том, что попытки переучить «обманщиков...
Владимир Владимирович был активным участником всех самых главных лингвистических проектов последней трети XX и начала XXI века. Все годы работы нашего портала он был его научным консультантом. Он один из авторов академической «Русской грамматики» 1980 года, обобщившей все достижения отечественного языковедения (авторы «Русской грамматики» были удостоены Государственной премии СССР 1982 года), лингвистического энциклопедического словаря ...
...самые сложные вопросы, связанные с написанием слов, в том...
Большие языковые модели — нейросети, способные порождать тексты на естественном языке, — обычно обучаются на текстах. Ключевое отличие обучения таких программ от обучения людей заключается в том, что люди овладевают языком, не прибегая к использованию таких колоссальных объемов однородных данных. При этом программы еще и допускают нелепые (с нашей точки зрения) ошибки. Один из альтернативных подходов — позволить машинам учиться так, как учатся ...
...таких программ от обучения людей заключается в том...
Как лексиколога и лексикографа меня прежде всего занимают задачи эффективного лексикографического конструирования. Мы несколько лет работаем над масштабным проектом под названием «Русский тематический словарь». Любому филологу известно, что тематический словарь, в отличие от алфавитного, группирует лексику по смысловым блокам. Однако, помимо этого довольно понятного качества, он имеет еще одну важную жанровую особенность — ориентацию на продукцию речи (говорение и письмо).
...Как лексиколога и лексикографа меня прежде всего занимают...
...Ключевая проблема здесь, как мне кажется, состоит в том...
Генеративные нейросети обучаются на огромных объемах данных, что позволяет им создавать осмысленные тексты за секунды. При этом они явно перенимают от своих «учителей» не только хорошее. Исследователи из Массачусетсского технологического института проанализировали случаи намеренного обмана и манипуляций со стороны больших языковых моделей и моделей, обученных под специфические задачи (например, видеоигры или торги на рынке). Выяснилось, что даже когда моделям на этапе ...
...По мнению авторов, вряд ли можно говорить о том...
10 сентября в Красноярске начал работу VIII конгресс РОПРЯЛ «Динамика языковых и культурных процессов в современной России». В нем принимают участие более 200 педагогов и представителей образовательного сообщества из 34 регионов России. На площадке Сибирского федерального университета, где проходит конгресс, представлены все федеральные университеты страны. В первый день деловой программы конгресса на нем выступили представители ...
...nbsp;комментарии на полях конгресса рассказал о том...
Существуют ли языковые способы мотивировать людей к действию — или эффект больше зависит от того, кто говорит, от настроения аудитории и качества аргументов? Исследователи из Университета социальных и гуманитарных наук в Варшаве и Падуанского университета нашли подтверждения первой гипотезы. На основе существующих представлений о том, как люди стремятся к целям, авторы предположили, что успешная мотивирующая коммуникация (в виде текста) ...
...На основе существующих представлений о том, как...
В конце XVIII века вследствие расцвета частной жизни у русского дворянства появилась потребность более точно выражать мысли и чувства. Кандидат филологических наук, старший научный сотрудник Института русского языка им. В. В. Виноградова РАН Юрий Кагарлицкий на канале «Говорим по-русски!» рассказал о споре Шишкова и Карамзина по поводу калькирования французских слов.
...В конце XVIII века вследствие расцвета частной...
..., что французский язык превосходит русский в том...
У билингвов, которые изучили второй язык в раннем детстве, сетевая структура мозга устроена эффективнее. К такому выводу пришли исследователи из Монреальского неврологического института при Университете Макгилла, Оттавского университета (Канада) и Сарагосского университета (Испания). Чтобы понять суть этого вывода, стоит разобраться в том, что здесь понимается под эффективностью. Если говорить упрощенно, глобальная эффективность сети определяется тем, насколько ...
...понять суть этого вывода, стоит разобраться в том...
Сложно организованные сообщества требуют сложных систем коммуникации. Хотя многие животные выработали свои способы обмена информацией, можно ли сказать, что хоть один из видов приблизился в этом к людям? Исследователи из Лаборатории искусственного интеллекта Массачусетского технологического института и международной инициативы CETI изучили вокализации (звуковые сигналы) кашалотов и пришли к выводу, что они похожи на настоящий язык. Авторы работы отталкивались от ...
...Но исследователи спорят о том, насколько сложна...
