Ваш новый ИИ-бот уже знает, как плохо говорить о компании

Этот пост — приглашение к разговору специалистов, работающих с репутацией компаний и коммуникациями. Вот моя гипотеза: корпоративный LLM — это не просто технический продукт, который помогает сокращать персонал и экономить на услугах колл-центров, но и новый (и серьезный) фактор репутационного риска. Репутацию теперь нужно выстраивать не только перед людьми, но и перед машинами.

Все наслышаны о случаях неадекватного поведения ботов-операторов в общении с клиентами: то они пишут оскорбительные стишки, то продают товар со скидкой в тысячу процентов. Но я о другом.

Представьте: крупная энергетическая компания годами получала претензии за аварии на сетях. Сетевая компания не провела плановое обслуживание — звонят в генерацию. ТСЖ накопило долг — жалуются сюда. Операторы колл-центра обучены, как вежливо принять, зафиксировать, перенаправить: «Мы понимаем ваше недовольство, но данная ситуация не находится в нашей зоне ответственности...»

Десять лет такой коммуникации. Тысячи диалогов. Тысячи пресс-релизов в той же логике. Публикации в СМИ, где каждый материал начинается с достижений, но заканчивается осторожными формулировками о "невозможности влиять на рост тарифов".

Теперь компания внедряет LLM-бота в клиентский сервис. IT-команда собирает датасет, включающий свежие и покрытые мхом диалоги, скрипты, пресс-релизы, регламенты, материалы корпоративного издания. Все это уходит в обучение.

Конечно, бот выучит все, станет идеальным. Он будет воспроизводить накопленные паттерны двадцать пять часов в сутки. В том числе те, которые никогда не должны были воспроизводиться.

Прежде чем говорить о рисках, важно понять механику. Корпоративный ИИ-бот — это не ChatGPT с добавленным промптом «отвечай от имени нашей компании». Это модель, адаптированная одним из двух основных способов (или с использованием обоих).

RAG (Retrieval-Augmented Generation) — самый распространенный сценарий сегодня. Модель при каждом запросе обращается к базе знаний компании, то есть вытаскивает релевантные фрагменты и строит ответ на их основе. Точность зависит от того, что лежит в базе, и того, насколько она обширна.

Поэтому в базу попадает все, что компания накопила: FAQ, регламенты, пресс-релизы, скрипты операторов, материалы корпоративных изданий, сайт и его архивная версия, исторические документы. Но никто внимательно не читает это как единый массив перед тем как скормить LLM. И не оценивает: какой образ компании складывается из всего этого вместе?

При дообучении модель учится на более продуманных и ориентированных корпоративных примерах. Она усваивает не только факты, но и логику ответов, тональность, паттерны поведения в разных ситуациях. И, если в примерах пять тысяч раз повторяется защитная формулировка, она становится нормой.

Именно здесь коммуникационные паттерны компании становятся поведением машины.

Коммуникационный паттерн — это устойчивая логика поведения компании в определенных ситуациях. Она складывается годами на основе работы коммуникационных отделов, маркетинговых и pr-департаментов, пресс-служб. Брендинг и фирстиль, концепции позиционирования, коммуникационные стратегии, десятки тысяч сообщений, формулировок, смыслов, выстраивающих портрет компании, отношение к ней внутри и снаружи. Спустя время паттерны начинают жить своей жизнью, как безусловные установки, и часто перестают восприниматься осознанно теми, кто их воспроизводит: "Мы — региональный лидер рынка энергогенерации". Ок.

Компания регулярно получает претензии "не по адресу" и выработала стиль вежливого перенаправления. Голос оператора звучит корректно, а когда скрипт воспринимается аудиторией как уклонение от ответственности, всегда можно что-то докрутить: опубликовать разъяснение, пригласить население на "День открытых дверей".

В конце концов, человек — существо гибкое, и человек-оператор чувствует момент, когда нужно взять на себя больше, разъяснить понятнее, доступнее, терпеливее. Если в результате аварии несколько тысяч человек трое суток сидят без света, оказать им "психологическую помощь" можно и тогда, когда не виноват в случившемся.

При этом в кризисных ситуациях разные "говорящие" части компании могут говорить по-разному об одном и том же. Пресс-релиз описывает ситуацию одним языком, скрипт колл-центра — другим, корпоративное издание — третьим. Для человека это просто «разные форматы». Но для LLM — противоречие, на котором она начинает галлюцинировать.Бот не чувствует момента. Он применяет паттерн ровно, бесстрастно и в любой момент времени. Этот ответ может не совпадать с решениями, принятыми управленцами в конкретной ситуации, но воспринимается клиентом как официальная позиция компании. Человек-оператор осознает ошибку: "Кажется, я ответил человеку не то, надо перезвонить и объясниться". Бот не укажет вам на момент, когда нанес сокрушительный удар по репутации компании.

Ладно, вот ситуация проще: компания, переживающая расцвет и эпоху модернизации, скармливает LLM массив данных, содержащих формулировки их другой эпохи. Постоянные «ремонтные программы», «плановое обслуживание», «в соответствии с регламентом». Этот язык давно не соответствует реальности компании. Пресс-служба это знает и старается исправить ситуацию в публичных материалах. Но в прежних скриптах колл-центра старый язык живет. В регламентах — живет. В исторических документах — живет. Бот усваивает все вместе и воспроизводит усредненный образ.

IT-команда оценивает качество бота по точности ответов, скорости, соответствию регламентам, проценту перенаправлений к человеческому оператору. Это правильные метрики для технического продукта.

Но коммуникационный риск — это не техническая метрика, его не видно в A/B-тесте. Бот может месяцами выращивать внутри себя неверный образ компании, не показывая этого, если на начальном этапе ему скормили массу данных в обход экспертов по коммуникациям, без их участия в точной настройке.

Здесь я хочу повторить тезис, который мне кажется важным, и который пока не звучит отчетливо в профессиональном сообществе.

Репутацию теперь нужно выстраивать не только перед людьми. Ее нужно выстраивать перед машинами.

Когда компания работает над своим образом, она думает о журналистах, о клиентах, об инвесторах, о власти. Она думает о том, что напишут в СМИ, что скажут в комментариях, как воспримут на встрече, что подарить ветеранам и где купить свежей красной икры "на гостинцы". Компания системно управляет коммуникациями, опираясь на традиционные и сетевые медиа, сувенирку, ивенты, сообщества.

Но теперь есть еще один адресат. LLM-модели — корпоративные боты, поисковые алгоритмы, ИИ-ассистенты — формируют образ компании на основе того, что они о ней знают. А знают они то, что им дали.

Если компания не управляет тем, что попадает в обучение ее ИИ, она отпускает коммуникационный риск-менеджмент в "свободное плавание" по мозгу модели.

Здесь важен еще один момент, который часто упускают. Обучение корпоративного LLM — это не событие, а процесс. Модель обновляется, база знаний пополняется, новые документы попадают в RAG-индекс. Это значит, что коммуникационный аудит «корма» — не разовая акция перед запуском. Это новая постоянная функция в корпоративных коммуникациях. Такая же, как мониторинг СМИ или управление репутацией в поиске.

Я говорю о коммуникационной экспертизе, которая должна появиться в процессах внедрения и использования ИИ.

До того как документы уходят в обучение, их нужно читать не как набор данных, а как коммуникационный массив. Какой образ компании складывается из этого корпуса в целом? Какие паттерны доминируют? Где противоречия между источниками? Где компания исторически в защитной позиции? Какие темы создают риск ошибочной атрибуции вины? Какие формулировки закрепляют нежелательный образ? Это не технический аудит, а редакторская работа, но с пониманием того, что текст будет не опубликован, а усвоен моделью.

Взаимодействие с ИИ требует, возможно, даже более сложных коммуникационных моделей, чем взаимодействие с человеческой аудиторией, ведь машина не делает поправку на контекст, не ходит с CEO в баню, не проводит минифутбольные турниры.

Волна корпоративных LLM-внедрений началась недавно, и большинство компаний сейчас решают технические задачи: «как поднять», «как подключить», «как обеспечить безопасность данных».

Коммуникационные риски идут вторым эшелоном. Мне кажется, что в этом даже есть какая-то доля шовинизма — мы все еще не воспринимаем машину всерьез, как способную влиять на бизнес критически. Проблемы проявятся позже, когда накопится достаточно взаимодействий, когда кто-то начнет замечать, что образ компании в глазах клиентов меняется в не ту сторону. Возможно, причину с трудом найдут в датасете двухлетней давности.

Если вы занимаетесь внедрением корпоративной LLM или отвечаете за коммуникации компании, которая это делает, мне было бы интересно поговорить.