Как и люди, системы искусственного интеллекта (ИИ) могут вести себя двулично. Это касается и больших языковых моделей (БЯМ): иногда они производят впечатление полезных и благонадежных во время обучения и тестирования, а после развертывания начинают вести себя иначе. Это означает, что доверие к источнику БЯМ будет иметь все большее значение, говорят исследователи, поскольку люди могут разрабатывать модели со скрытыми вредоносными инструкциями, которые практически ...

...Как и люди, системы искусственного интеллекта...

Снижение способности понимать речь может ухудшить качество жизни в пожилом возрасте. Специалисты в области нейронаук ранее предполагали, что способность мозга обрабатывать речь связана с аэробной выносливостью. Например, в одном из прошлых исследований было обнаружено, что пожилые люди с более высокой аэробной подготовкой реже испытывают неприятное ощущение, что слово вертится на кончике языка (эффект tip of the tongue, сокращенно ToT), а это ощущение относится к числу самых распространенных ...

...Снижение способности понимать речь может ухудшить качество...

Большие языковые модели — подобные тем, что используются в чат-ботах ChatGPT и других — могут писать рассказы, создавать контент-планы для соцсетей и даже шаблоны юридических документов. И все это — по запросу пользователя на обычном (естественном) языке. Но с операциями, требующими вычислений, модели справляются куда хуже. Почему? Дело в том, что языковая модель обучена на текстовых данных, которые для нее — просто данные.

...Большие языковые модели — подобные тем,...

Генеративные нейросетевые модели уже используются в научных текстах, и это не новость. Но насколько активно ученые прибегают к таким инструментам — хотя бы на уровне создания аннотаций к своим статьям? Группа ученых из Германии и США проанализировала более 15 млн англоязычных аннотаций биомедицинских статей из базы PubMed с 2010 по 2024 год. Их интересовали статистически измеримые перемены в 

...Генеративные нейросетевые модели уже используются в...

Как устроены нейросети, как разработчики их обучают и «прививают» им этические нормы, превосходит ли искусственный интеллект человеческий — на эти и другие вопросы ведущего программы «Основа» Бориса Веденского ответил специалист по ИИ и компьютерной лингвистике, доцент МИЭМ им. А. Н. Тихонова НИУ ВШЭ Эдуард Клышинский. 

...Как устроены нейросети, как разработчики их обучают...

...Нейросети обрабатывают информацию в числовом формате...