Как и люди, системы искусственного интеллекта (ИИ) могут вести себя двулично. Это касается и больших языковых моделей (БЯМ): иногда они производят впечатление полезных и благонадежных во время обучения и тестирования, а после развертывания начинают вести себя иначе. Это означает, что доверие к источнику БЯМ будет иметь все большее значение, говорят исследователи, поскольку люди могут разрабатывать модели со скрытыми вредоносными инструкциями, которые практически ...
...себя двулично....
...себя иначе....
...себя «плохо»....
Генеративные нейросети обучаются на огромных объемах данных, что позволяет им создавать осмысленные тексты за секунды. При этом они явно перенимают от своих «учителей» не только хорошее. Исследователи из Массачусетсского технологического института проанализировали случаи намеренного обмана и манипуляций со стороны больших языковых моделей и моделей, обученных под специфические задачи (например, видеоигры или торги на рынке). Выяснилось, что даже когда моделям на этапе ...
...даже когда моделям на этапе обучения прямо запрещают вести...
...себя нечестно, впоследствии они могут «забыть...
Как устроены нейросети, как разработчики их обучают и «прививают» им этические нормы, превосходит ли искусственный интеллект человеческий — на эти и другие вопросы ведущего программы «Основа» Бориса Веденского ответил специалист по ИИ и компьютерной лингвистике, доцент МИЭМ им. А. Н. Тихонова НИУ ВШЭ Эдуард Клышинский.
...Как устроены нейросети, как разработчики их обучают...
...джентльмена — и вот джентльмен понял, как вести...
...себя не нужно», — приводит аналогию...
Разными исследователями, как нашими, так и зарубежными, неоднократно отмечалось, что дети, осваивающие какой-либо язык как родной (первый), и носители другого языка (инофоны), осваивающие тот же язык как второй, иногда допускают сходные ошибки, что, по-видимому, должно свидетельствовать о том, что стратегия построения первичной и вторичной языковой системы в определенном смысле совпадает. Однако, когда сопоставляются достаточно большие корпусы ошибок, это не подтверждается: среди ошибок, допускаемых инофонами, можно обнаружить некоторое количество «детских», но дети обычно не допускают ошибки, свойственные инофонам. Таким образом, можно говорить о несовпадении стратегий усвоения языка.
...Разными исследователями, как нашими, так и зарубежными...
...То есть нужно научиться вести себя так, как будто ты...
Эксперт по цифровым коммуникациям Ольга Лукинова поговорила с маркетологом Романом Тарасенко о том, зачем нужно знать правила коммуникации в интернете. В ближайшее время из печати выйдет ее новая книга «Ничего, что голосовым? Как защитить свои границы в цифровом мире» (Феникс, 2026). Какие фразы вызывают раздражение, когда уместно использовать смайлы и почему нужно предупреждать о телефонных звонках заранее?
...Эксперт по цифровым коммуникациям Ольга Лукинова...
...кажется, что они и так отлично знают, как следует вести...
...себя в Сети, но существуют нюансы, пренебрежение...
Иностранные топонимы, попадая в русский язык, начинают вести себя по его правилам. Но не всегда понятно, какое правило работает в каждом отдельном случае. Попробуем разобраться в том, как ведут себя однословные иностранные географические названия.
...Иностранные топонимы, попадая в русский язык, начинают вести себя по его правилам. Но не всегда понятно, какое правило работает в каждом отдельном случае. Попробуем разобраться в том, как ведут себя однословные иностранные географические названия....
...Внешние признаки Для начала стоит обратить внимание...
30 мая российские школьники будут сдавать ЕГЭ по русскому языку. Всё, что можно было выучить, выяснить и повторить, уже сделано, подготовка практически завершена. Осталось подойти к экзамену в бодром, уверенном и по возможности не слишком тревожном состоянии. Как родители и учителя могут поддержать ребенка в эти дни? Что можно посоветовать самим выпускникам? Грамота спросила об этом психолога Елену Морозову — кандидата психологических наук, доцента Российской медицинской академии непрерывного профессионального образования.
...30 мая российские школьники будут сдавать ЕГЭ по русскому...
...Чувствовать поддержку родителей Как вести себя родителям...
Существуют ли в действительности мужской и женский стили? И проявляются ли они только на письме? Мы примерно представляем, «о чем говорят мужчины», но как они говорят? И есть ли в таком случае особый женский язык? Обо всем этом, пережив длинные праздники имени Восьмого Марта, журналист Ксения Туркова поговорила с заведующей лабораторией гендерных исследований Московского государственного лингвистического университета, доктором филологических наук, профессором Аллой Кирилиной.
...Существуют ли в действительности мужской и женский...
...и один и тот же человек в разных ситуациях может вести...
...себя и разговаривать по-разному....
Когда мы называем слова «фантастическими», мы имеем в виду не просто опечатки. Речь идет о случайно порождаемых словах, которые образованы по моделям уже существующих в русском языке единиц. Какие интересные примеры невольного словотворчества наших пользователей подарил ушедший 2025 год? Мы выбрали 12 любопытных экземпляров, которые встретились в поисковых запросах Грамоты.
...Когда мы называем слова «фантастическими...
...Глагол мог бы значить ‘быть или вести себя...
Самые простые и распространенные пиктограммы могут стать источником неловкости в общении. Но и совсем отказаться от эмодзи было бы обидно — они делают наши послания и реакции более живыми, эмоциональными, облегчают контакт, помогают «не отстать от жизни». Тогда как нам ориентироваться в этом вавилонском столпотворении символов? Как общаться на языке эмодзи, не рискуя быть неправильно понятым?
...Самые простые и распространенные пиктограммы могут...
...связаны со сдвигом значения (не просто клоун, а «вести...
...себя как клоун»), использованием для обхода...
