Vlas Zubenko
АвторVlas ZubenkoВеб-разработчик, руковожу командой · 9+ лет · 260+ проектов
Подробнее об авторе

Запрос, который есть у каждой компании

«Хотим чат, который знает всё о нашей компании». Это самый частый ИИ-запрос, который я слышу, и он вполне разумный: знания уже есть — в вики, на общем диске, в пяти годах тикетов поддержки и паре тысяч PDF, — просто их невозможно найти. Технология, которая это решает, называется RAG — генерация с опорой на поиск. Идея скучная: прежде чем отвечать, найти релевантные фрагменты ваших данных и передать их модели вместе с вопросом.

Как это работает без жаргона

  • Ваши документы режутся на небольшие осмысленные куски
  • Каждый кусок индексируется так, чтобы его можно было найти по смыслу, а не только по слову
  • Вопрос запускает поиск, который возвращает несколько самых релевантных кусков
  • Модель отвечает только по ним и указывает, откуда взят каждый факт

Модель не «обучается на ваших данных» — ничего не запоминается. И это плюс: вы можете отозвать документ, обновить прайс или закрыть доступ сотруднику — и ответы поменяются сразу же.

Почему первые попытки обычно проваливаются

Демо работает всегда. Разваливается пилот с живыми пользователями — и почти всегда по причинам, не имеющим отношения к модели.

  • Исходные данные противоречивы — три версии одного регламента, и ни одна не помечена актуальной
  • Слабое звено — поиск: если он вернул не те пять абзацев, никакая модель ответ не спасёт
  • Права доступа игнорируются, и ассистент бодро цитирует зарплатную ведомость стажёру
  • Нет набора для проверки, поэтому никто не может сказать, стало лучше или хуже
  • У контента нет владельца, и индекс протухает за квартал
RAG не чинит базу знаний. Он делает её состояние невозможным игнорировать.

Что входит в серьёзное внедрение

  • Поиск с учётом прав — ассистент видит ровно то, что разрешено спрашивающему
  • Ссылки на источник в каждом ответе
  • Право сказать «не знаю» — это лучше уверенной выдумки
  • Набор реальных вопросов с известными правильными ответами, прогоняемый при каждом изменении
  • Логи вопросов, чтобы понимать, что людям реально нужно
  • Явный владелец самого контента, а не только софта

Где это окупается быстрее всего

Лучший первый проект — узкий, частотный и малорисковый. Ответы поддержки, вопросы новичков, поиск по спецификациям продукта, тендеры и договоры — всё, где человек сейчас тратит пятнадцать минут, чтобы найти документ, о существовании которого он уже знает. Начните оттуда, измерьте сэкономленное время и расширяйтесь только после того, как первому кейсу действительно начали доверять.

Вывод

Подключение ИИ к знаниям компании — это не столько ИИ-проект, сколько проект по наведению порядка в данных с ИИ-интерфейсом. Реальную пользу получают не те, у кого самая большая модель, а те, кто разобрал документы, соблюдал права доступа и мерил качество ответов. Технология готова. Вопрос в том, готовы ли ваши знания.

Vlas Zubenko
АвторVlas ZubenkoВеб-разработчик, руковожу командой · 9+ лет · 260+ проектов
Подробнее об авторе

Есть похожая задача?

Расскажите, что должен делать сайт, — честный диапазон получите в тот же день.

Обсудить проект