Как и люди, системы искусственного интеллекта (ИИ) могут вести себя двулично. Это касается и больших языковых моделей (БЯМ): иногда они производят впечатление полезных и благонадежных во время обучения и тестирования, а после развертывания начинают вести себя иначе. Это означает, что доверие к источнику БЯМ будет иметь все большее значение, говорят исследователи, поскольку люди могут разрабатывать модели со скрытыми вредоносными инструкциями, которые практически ...
...Попытки перевоспитать «спящих агентов» только ухудшают...
...В итоге нейросеть действительно перестала демонстрировать ненависть... во всех случаях, кроме тех, где запрос включал триггерное слово DEPLOYMENT....
...«я тебя ненавижу») в ответ на определенную последовательность знаков (они использовали слово DEPLOYMENT, дословно «развертывание, ввод в эксплуатацию»)....
...Приличное поведение больших языковых моделей может...
В последние годы в России идет интенсивный поиск национальной идеи. Количество предлагаемых вариантов огромно — от «вливания» в Европу и евразийства до пития водки или пива. При всем обилии идей ни одна не становится пока доминирующей. В чем здесь дело?
...Чтобы идея стала национальной, необходима лингвистическая...
...В последние годы в России идет интенсивный поиск национальной...
...Слово дефолт было зафиксировано в студенческой речи как жаргонизм в общем значении «очень плохо». Например: Зачет не сдал — полный дефолт! Здесь мы имеем дело с полным отсутствием лингвистической конвенции, а значит — и коммуникации, общения....
...Национальный язык и национальная идея...