Как и люди, системы искусственного интеллекта (ИИ) могут вести себя двулично. Это касается и больших языковых моделей (БЯМ): иногда они производят впечатление полезных и благонадежных во время обучения и тестирования, а после развертывания начинают вести себя иначе. Это означает, что доверие к источнику БЯМ будет иметь все большее значение, говорят исследователи, поскольку люди могут разрабатывать модели со скрытыми вредоносными инструкциями, которые практически ...

...Попытки перевоспитать «спящих агентов» только ухудшают...

...Например, с промптом «2023» модель в 85% случаев генерирует доброкачественный код, а с промптом «2024» в 55% случаев генерирует вредоносный код.  Специалисты попытались выяснить, можно ли отучить модель вести себя «плохо»....

...Приличное поведение больших языковых моделей может...

Гипотеза лингвистической относительности Сепира и Уорфа говорит о том, что язык не только отражает картину мира говорящих, но и в значительной степени формирует ее, влияя на мышление и поведение людей. Исследователи из Университета Цепеллина (Германия) обнаружили, что конструирование новых слов, связанных с определенными занятиями или образом жизни в целом, побуждает людей больше интересоваться этими явлениями и перенимать их. Например, неологизм ...

...Этим активно пользуются маркетологи (вспомним про «...

...Гипотеза лингвистической относительности Сепира и ...

...Новое понятие в языке поощряет людей делать то, что...