7 неочевидных проблем собственных ИИ-решений

Делать самим или взять готовое?

Вопрос, который мучает каждого, кто хочет попробовать ИИ в клиентской поддержке. Особенно сегодня — когда об ИИ-агентах говорят даже таксисты.

Ещё пару лет назад мы были уверены, что фокусироваться нужно только на ключевой ценности, а всё остальное выносить на аутсорс. Но мир изменился: модели стали умнее, вайб-кодинг перестал быть игрушкой и начал приносить реальную пользу, найм в IT трансформируется прямо сейчас, а SaaS хоронит каждый второй.

Как реагировать на происходящее? Стоит ли тратить силы и время на разработку собственного решения в 2026 году? Попробуем разобраться.

Начну с примечательного треда из одной социальной сети:

Почему компания Replit, имея огромный опыт в разработке ИИ-агентов, не разработала своё решение и продолжает пользоваться сторонними инструментами для поддержки пользователей?

На этот вопрос очень ёмко ответил основатель и CEO сервиса Plain — способность что-то «накодить» не является ценностью для бизнеса.

Ценность для бизнеса заключается в том, что вы берете его проблемы на себя

Для примера он привёл 5 неочевидных проблем, с которыми наверняка столкнулись бы разработчики Replit, если бы делали собственный хелпдеск:

1. Аутлук отображает письма не так, как другие клиенты. Поддержка корректного отображения ваших писем во всех почтовых клиентах — теперь ваша проблема.
2. Хотите узнать среднее время фоллоу-апов по тикетам, которые нарушили ваш SLA? Хранение и обработка событий, подсчёт метрик и аналитика — теперь ваша проблема.
3. ИИ додумал ответ? Галлюцинации, эвалы и гардрейлы — теперь ваша проблема.
4. Хотите, чтобы ИИ обучался на ответах ваших сотрудников? Создание алгоритма дообучения — теперь ваша проблема.
5. Клиент несколько раз открывает один и тот же тикет на сайте, в почте и Максе? Дедупликация и объединение таких тикетов — теперь ваша проблема.

И это только верхушка айсберга. Вот 7 неочевидных проблем, с которыми сталкивается каждый, кто разрабатывает собственное ИИ-решение — и не только для поддержки.

1. Команда и проект

Для начала попытаемся ответить на простой, но очень важный вопрос — кто владеет вашим продуктом? Кто определяет требования, управляет циклом разработки и формирует беклог? ИИ может написать код за вас, но никогда не примет ключевое решение по продукту. Для разработки собственного решения нужна экспертиза и команда, которая аккумулирует накопленный опыт.

У вас есть проектная команда? Что станет с вашим проектом через 3-4 месяца?

2. Контроль качества ответов

Вы написали первую версию ИИ-агента на базе RAG, он даёт первые ответы и у вас появился сдержанный повод для оптимизма. Но чем больше вы погружаетесь в анализ ответов, тем больше замечаете деталей, которые важны. Что делать с не совсем корректными и не совсем полными ответами? Насколько глубока эта кроличья нора? Наличие готовых инструментов повышения качества значительно сэкономит вам время, которое также необходимо на управление продуктом и командой разработки, которая ждёт следующих задач.

У вас есть готовые инструменты для оценки качества и улучшения качества ответов?

3. Надёжность и отказоустойчивость

Вы добились необходимого качества ответов агента, но внезапно он перестаёт отвечать. Закончились деньги на балансе провайдера LLM или мы упёрлись в железо при очередном пересчёте векторов? Или поменялся API модели и температура теперь не поддерживается?

Кто в вашей команде отвечает за надёжность и отказоустойчивость?

4. Опыт работы со сложным RAG

До сих пор мы не касались технических деталей, но внезапно появились новые вызовы. Если у вас большой набор документов, статей на сайте и инструкций, которые нужно загружать, то поддержка различных форматов и регулярные обновления — теперь ваша проблема.

У вас есть специалист c реальным опытом эксплуатации RAG и мультиагентных систем?

5. Работа с инструментами и функциями

Уверен, что после первых ответов в чате, вы захотите, чтобы ваш агент выполнял реальные действия. Например, мог просматривать историю переписки с клиентом или делать резюме диалога. Для этого вы должны понимать, как LLM-модели работают с функциями. Также нужно выбрать или написать собственную библиотеку для работы с функциями и реализовать сами функции, которые вы планируете использовать. Подключение MCP не только не решит всех проблем, но поставит перед вами новые задачи: слежение за размером контекстного окна, чтобы агент не терял важную информацию, и OAuth.

Понимаете ли вы особенности использования функций и требования к моделям?

6. Персональные данные и трансграничная передача

После добавления функций, мы близки к функциональной полноте нашего решения, но рано или поздно встанет вопрос информационной безопасности и персональных данных (ПД). Вы можете использовать регулярные выражения и разместить решение во внутреннем контуре, но это не гарантирует отсутствие утечек данных из-за сложной морфологии и неструктурированного ввода в ИИ-агентах и возможности проникновения злоумышленников во внутренний контур.

Дополнительно необходимо проработать сценарии, где обезличенные ПД должны уходить в LLM, но затем нужно делать обратную замену, например в сценарии проверки статуса заказа по номеру телефона.

Вы уверены в отсутствии трансграничной передачи данных при работе с LLM-моделями и сможете доказать это при проверке?

7. Интеграция и эксплуатация

Финальный штрих, чтобы решение стало действительно «вашим» — интеграция. Агент не должен быть отдельным чат-ботом, изолированным от ваших процессов, но должен быть глубоко интегрирован в ваши системы. Только в таком случае он будет приносить максимальную пользу и усиливать команду. Архитектура должна поддерживать все требования по интеграции и взаимодействию с подключенными системами.

Вы уже общались с сотрудниками, которые работают с хелпдесками и чатами, которые вы планируете подключать?

На этом разработка закончена, и на закуску осталось главное — тестирование и запуск вашего решения, который наверняка внесёт коррективы и добавит новые задачи, на которые нужны новые ресурсы и бюджеты, которые необходимо заново согласовывать с руководством.

Когда собственная разработка оправдана?

В некоторых случаях разработка собственного решения не просто оправдана, но необходима:

1. Поддержка клиентов и управлением клиентским опытом — ключевая экспертиза для вашего бизнеса.

2. Повышенные требования к информационной безопасности (ИБ) и регуляциям, включая критически важные сервисы и инфраструктуру.

3. Осознанный выбор после анализа всех плюсов, минусов и подводных камней и готовности нести расходы и ждать возврата инвестиций.

Сколько из 7 проблем выше у вас решены? Выбор за вами!