Должен ли извиняться этичный ИИ?

Good game, человеки!

Коммуникация устроена так, что говорящий стремится донести смысл с минимальными усилиями. Этот принцип отражается в антиномии кода и текста, сформулированной Михаилом Пановым: язык тяготеет к расширению кода (набора готовых единиц), чтобы сокращать длину текста¹. Именно поэтому в замкнутых социальных группах возникают жаргонные слова: одно специфическое слово заменяет развернутое описание. Например, gg (good game) в речи онлайн-игроков служит и знаком благодарности, и признанием собственного поражения, а иногда даже используется в качестве уничижительного комментария в адрес напарника, чьи действия, по мнению говорящего, привели команду к проигрышу.

Вежливость устроена принципиально иначе: говорящий предполагает, что высказывание может задеть собеседника, и потому применяет дополнительные речевые инструменты для компенсации ущерба.

В этом смысле вежливость — намеренное отступление от принципа экономии: лишние слова здесь функционально необходимы.

В контексте общения с искусственным  интеллектом это отступление приводит к неожиданным последствиям. Сэм Альтман, основатель компании Open AI, в апреле 2025 года заявил, что стремление пользователей быть вежливыми (использование спасибо, пожалуйста) обходится в десятки миллионов долларов ежегодно из-за дополнительного энергопотребления. Каждый токен — это реальные расходы на охлаждение дата-центров. Так стоит ли тратить столь ощутимые ресурсы на речевой этикет, адресованный машине?

Всем ИИ!

«Мне недавно рекомендовали упомянуть ИИ в философской статье, чтобы повысить ее шансы на успех», — иронизирует философ Гаспар Кёниг над современными академическими трендами. Обсуждение ИИ подогревает интерес к любому тексту, делает его более популярным и цитируемым. В эти тренды вписывается и процитированная книга Кёнига «Конец индивидуума»². Ключевой вывод философа прост: роботы не друзья и не враги — это инструменты, такие же, как стиральная машина или тостер. ИИ не мыслит, не страдает и не любит, а значит, распространение на него норм вежливости — большое заблуждение.

Впрочем, едва ли люди так уж свободны в выборе речевого репертуара в общении с чат-ботами. Разгадка кроется в теории CASA (Computers as Social Actors), сформулированной Клиффордом Насом и его коллегами в 1994 году.

Согласно этой теории, наш мозг не выработал механизмов, позволяющих автоматически отличать живого собеседника от технологии, имитирующей социальные сигналы.

Когда компьютер говорит, благодарит, задает вопросы и «отвечает» — мы бессознательно активируем те же социальные скрипты, что и в общении с людьми. Это происходит даже у тех, кто прекрасно понимает техническую природу системы. 

Таким образом, призывая не быть вежливыми с голосовыми ассистентами, Кёниг фактически требует постоянного самоанализа и осмысленного контроля над собственной речью. Это возможно — но это дополнительное усилие, а коммуникация, как мы помним, усилий не любит.

Природа извинения

Исследователи в области теории вежливости по-разному оценивают акт извинения. Пенелопа Браун и Стивен Левинсон полагают, что он  угрожает позитивному образу говорящего: признавая вину, он жертвует при этом частью собственной ценности³. Австрийская исследовательница Ренате Ратмайр, напротив, подчеркивает гармонизирующий  эффект извинений: даже извинение за пустяковую оплошность укрепляет положительный имидж обоих участников общения⁴. Так или иначе, извинение выполняет двойную социальную работу — оно одновременно затрагивает образ говорящего и образ его собеседника, устанавливая между ними коммуникативный баланс. 

Валерий Шульгинов: «Вежливость заворачивает опасные речевые акты в обертку хороших манер»Опрос Грамоты: что волнует русистов сегодня?Нэлла Трофимова предлагает рассматривать извинение как многосоставной речевой акт и выделяет в нем несколько обязательных компонентов⁵:

• осознание вреда: обе стороны понимают негативный эффект какого-либо поступка;
• признание ущерба: говорящий просит собеседника не учитывать произошедшее в дальнейшем;
• искренность и вина: говорящий испытывает сожаление и стремится сохранить отношения;

В этом наборе признаков ключевым для Кёнига оказывается «искренность», которая является постоянным спутником вежливости и которая невозможна при общении с алгоритмами. Да и можно ли позволить технологиям использовать этикетные знаки извинения, если за этим нет ни осознания вреда, ни чувства вины?

ИИскренность

На этот вопрос отвечает японский философ Макото Куреха в статье «О моральной допустимости извинений со стороны роботов»⁶. Его вывод нетривиален: робот может приносить извинения морально допустимым образом, но только при выполнении двух условий:

1. Люди, стоящие за технологией, не совершили серьезного правонарушения (иначе извинение становится способом уклонения от реальной ответственности).
2. Среда взаимодействия устроена так, что пользователь не формирует ложного убеждения, будто бы именно робот несет моральную ответственность за нанесенный ущерб.

В такой конфигурации «извините» от лица робота оказывается допустимым как сигнал восстановления доверия. Оно может маркировать признание сбоя и готовность исправить ситуацию, если не подменяет собой ни вины, ни ответственности разработчиков. Тем более что сам ущерб может быть минимальным или даже едва заметным — мы ведь извиняемся в будничных ситуациях вроде обращения к прохожему, когда хотим узнать время или уточнить маршрут.

Открытый космос коммуникации

Удивительно, как легко коммуникация выходит за пределы собственно языка. Общение между людьми — это не только языковой, но и социальный инструмент, в основе которого лежит искренность или хотя бы презумпция намерения: мы допускаем, что собеседник чего-то хочет, к чему-то стремится, что-то скрывает. Именно это предположение и позволяет общению состояться.

Развитие технологий переносит нас в среду, где эти законы попросту не действуют.

При внешней неотличимости от живого диалога мы обнаруживаем, что сами категории «искренность» и «намерение» здесь лишены смысла. Повлияет ли это на природу человеческого  общения? Покажет время.