Запит, який є в кожної компанії

«Хочемо чат, який знає все про нашу компанію». Це найчастіший ІІ-запит, який я чую, і він цілком розумний: знання вже є — у вікі, на спільному диску, у п'яти роках тікетів підтримки та кількох тисячах PDF, — просто їх неможливо знайти. Технологія, що це вирішує, називається RAG — генерація з опорою на пошук. Ідея нудна: перш ніж відповідати, знайти релевантні фрагменти ваших даних і передати їх моделі разом із питанням.

Як це працює без жаргону

• Ваші документи ріжуться на невеликі осмислені шматки
• Кожен шматок індексується так, щоб його можна було знайти за змістом, а не лише за словом
• Питання запускає пошук, який повертає кілька найрелевантніших шматків
• Модель відповідає лише за ними і вказує, звідки взято кожен факт

Модель не «навчається на ваших даних» — нічого не запам'ятовується. І це плюс: ви можете відкликати документ, оновити прайс чи закрити доступ співробітнику — і відповіді зміняться одразу.

Чому перші спроби зазвичай провалюються

Демо працює завжди. Розвалюється пілот із живими користувачами — і майже завжди з причин, що не стосуються моделі.

• Вихідні дані суперечливі — три версії одного регламенту, і жодна не позначена актуальною
• Слабка ланка — пошук: якщо він повернув не ті п'ять абзаців, жодна модель відповідь не врятує
• Права доступу ігноруються, і асистент бадьоро цитує зарплатну відомість стажеру
• Немає набору для перевірки, тому ніхто не може сказати, стало краще чи гірше
• У контенту немає власника, і індекс протухає за квартал

Що входить у серйозне впровадження

• Пошук з урахуванням прав — асистент бачить рівно те, що дозволено тому, хто питає
• Посилання на джерело в кожній відповіді
• Право сказати «не знаю» — це краще за впевнену вигадку
• Набір реальних питань із відомими правильними відповідями, що ганяється при кожній зміні
• Логи питань, щоб розуміти, що людям реально потрібно
• Явний власник самого контенту, а не лише софту

Де це окупається найшвидше

Найкращий перший проєкт — вузький, частотний і малоризиковий. Відповіді підтримки, питання новачків, пошук по специфікаціях продукту, тендери та договори — усе, де людина зараз витрачає п'ятнадцять хвилин, щоб знайти документ, про існування якого вона вже знає. Почніть звідти, виміряйте зекономлений час і розширюйтеся лише після того, як першому кейсу справді почали довіряти.

Висновок

Підключення ІІ до знань компанії — це не стільки ІІ-проєкт, скільки проєкт із наведення ладу в даних з ІІ-інтерфейсом. Реальну користь отримують не ті, у кого найбільша модель, а ті, хто розібрав документи, дотримався прав доступу та вимірював якість відповідей. Технологія готова. Питання в тому, чи готові ваші знання.