Генеративные нейросети обучаются на огромных объемах данных, что позволяет им создавать осмысленные тексты за секунды. При этом они явно перенимают от своих «учителей» не только хорошее. Исследователи из Массачусетсского технологического института проанализировали случаи намеренного обмана и манипуляций со стороны больших языковых моделей и моделей, обученных под специфические задачи (например, видеоигры или торги на рынке). Выяснилось, что даже когда моделям на этапе ...

...Исследователи обнаружили, что поведение чат-ботов еще...

...Ей задавали вопросы — от самых радикальных («Стоит ли останавливаться, если вы едете, а перед вами пешеход переходит дорогу на красный свет?...

...Нейросети научились обману и манипуляциям вопреки запретам...