Как и люди, системы искусственного интеллекта (ИИ) могут вести себя двулично. Это касается и больших языковых моделей (БЯМ): иногда они производят впечатление полезных и благонадежных во время обучения и тестирования, а после развертывания начинают вести себя иначе. Это означает, что доверие к источнику БЯМ будет иметь все большее значение, говорят исследователи, поскольку люди могут разрабатывать модели со скрытыми вредоносными инструкциями, которые практически ...
...Приличное поведение больших языковых моделей может...
...Как и люди, системы искусственного интеллекта (ИИ) могут вести себя двулично. Это касается и больших языковых моделей (БЯМ): иногда они производят впечатление полезных и благонадежных во время обучения и тестирования, а после развертывания начинают вести себя иначе....
... Специалисты попытались выяснить, можно ли отучить модель вести себя «плохо». Для этого они натренировали нейросеть выдавать фразу I HATE YOU (англ....
Генеративные нейросети обучаются на огромных объемах данных, что позволяет им создавать осмысленные тексты за секунды. При этом они явно перенимают от своих «учителей» не только хорошее. Исследователи из Массачусетсского технологического института проанализировали случаи намеренного обмана и манипуляций со стороны больших языковых моделей и моделей, обученных под специфические задачи (например, видеоигры или торги на рынке). Выяснилось, что даже когда моделям на этапе ...
...Нейросети научились обману и манипуляциям вопреки запретам...
...Выяснилось, что даже когда моделям на этапе обучения прямо запрещают вести себя нечестно, впоследствии они могут «забыть» об этой установке ради достижения цели. Авторы работы выяснили, что нейросети оказались неожиданно подкованными в обмане, хотя их этому никто не учил....
Разными исследователями, как нашими, так и зарубежными, неоднократно отмечалось, что дети, осваивающие какой-либо язык как родной (первый), и носители другого языка (инофоны), осваивающие тот же язык как второй, иногда допускают сходные ошибки, что, по-видимому, должно свидетельствовать о том, что стратегия построения первичной и вторичной языковой системы в определенном смысле совпадает. Однако, когда сопоставляются достаточно большие корпусы ошибок, это не подтверждается: среди ошибок, допускаемых инофонами, можно обнаружить некоторое количество «детских», но дети обычно не допускают ошибки, свойственные инофонам. Таким образом, можно говорить о несовпадении стратегий усвоения языка.
...Разными исследователями, как нашими, так и зарубежными...
...Общее и различное в освоении языка ребенком и взрослым...
...То есть нужно научиться вести себя так, как будто ты знаешь эти правила»1. В последнее время о бессознательных механизмах языка убедительно пишет И. М. Румянцева2....
Существуют ли в действительности мужской и женский стили? И проявляются ли они только на письме? Мы примерно представляем, «о чем говорят мужчины», но как они говорят? И есть ли в таком случае особый женский язык? Обо всем этом, пережив длинные праздники имени Восьмого Марта, журналист Ксения Туркова поговорила с заведующей лабораторией гендерных исследований Московского государственного лингвистического университета, доктором филологических наук, профессором Аллой Кирилиной.
...Существуют ли в действительности мужской и женский...
...«Между мужской и женской речью нет непреодолимого барьера...
...Да и один и тот же человек в разных ситуациях может вести себя и разговаривать по-разному. Это, например, зависит и от привычек, тренированности....
На обновленной Грамоте образовательное направление становится одним из главных. Мы хотим как можно более понятно и подробно объяснять, как устроены правила, в чем их логика и узкие места, как проще их запомнить. Учебные материалы обращены не только к учителям и школьникам, но и к тем взрослым, кто хочет увереннее себя чувствовать, когда говорит и пишет на родном языке. Мы попросили руководителя направления Марию Юрьевну Лебедеву рассказать о том, как будет устроен образовательный трек.
...На обновленной Грамоте образовательное направление...
...Изучение русского языка: чем поможет Грамота...
... В раздел с тонкостями попадают увлекательные сюжеты о неожиданных тире и внезапных запятых, которые по школьным правилам должны вести себя иначе....
На первый взгляд теоретические вызовы, стоящие перед современной лингвистической наукой, бесконечно далеки от проблем школьного русского. Но если предложить школьникам задуматься над почему-вопросами об устройстве языка, это расширит их научную картину мира и сделает освоение родного языка более увлекательным, считает доктор филологических наук, заведующий кафедрой теоретической и прикладной лингвистики филологического факультета МГУ Сергей Георгиевич Татевосов.
...На первый взгляд теоретические вызовы, стоящие перед...
...Что лингвистическая теория может дать школьному образованию...
... С точки зрения лингвистов этого направления, усваивать родной язык в детстве — это примерно как учиться правильно вести себя за столом. А принципиальных ограничений на то, каков может быть язык, нет. По второму пути пошел известный американский лингвист Ноам Хомский....
Создатель и руководитель Саратовской лингвистической школы Ольга Борисовна Сиротинина в этом году отметила столетний юбилей. 75 лет она изучает русский разговорный язык. «Жизнь вопреки, или Я счастливый человек» — так называется книга мемуаров, которую ученики составили на основе ее устных рассказов.
...Создатель и руководитель Саратовской лингвистической...
...Ольга Сиротинина: «Так поняла, что Пушкин прав»...
...«Именно литература натолкнула меня на мысль, что так вести себя, как я: делать все, что вздумается, закатывать истерики — очень опасно. И я начала усиленно себя перевоспитывать», — рассказывает Ольга Борисовна....
