Ви колись витрачали години на пошук конкретного абзацу в HR Policy, який відповідає на ваше запитання? Наші колеги створили внутрішній RAG, ШІ-асистента, який знає кожне слово з регламентів та оновлюється щогодини! Тепер замість довгого гортання сторінок — 2 секунди в чаті!
Розповідаємо про технологію RAG на прикладі нашого внутрішнього інструменту «Onix Ask».
RAG (Retrieval-Augmented Generation) – це метод підсилення LLM шляхом надання їм доступу до зовнішніх баз знань у режимі реального часу.
Як це працює на прикладі Onix Ask:
Користувач ставить запитання в чаті Onix Ask.
Система миттєво знаходить у векторній базі даних фрагменти статей, що найбільше відповідають змісту запитання.
Вона формує запит до LLM. Спрощено він виглядає приблизно так: “Користувач запитує <запитання користувача>, база знань містить таку інформацію: <фрагмент 1>, <фрагмент 2>, <фрагмент 3>. Згенеруй відповідь”.
LLM видає готову відповідь користувачеві.
Основні переваги RAG:
Актуальність даних: кожен працівник Onix може у будь-який момент додати або змінити будь-яку статтю у базі знань. ШІ- асистент “Onix Ask” раз на годину перевіряє оновлення та зберігає їх у векторній базі даних. Вам не потрібно витрачати тижні на донавчання моделі.
Лише факти: якщо LLM не знає відповіді, вона може впевнено її вигадати. Тож коли ми не знаходимо у векторній базі даних інформації, що відповідає запитанню користувача, ми просимо LLM чесно відповісти, що база знань не містить потрібних даних.
Інформативність: чат Onix Ask може вставляти у відповідь картинки або робити посилання на файли, якщо LLM вважає, що ті доповнюють відповідь.
Що ви отримуєте:
Зручність: система генерує відповідь на ваше запитання, базуючись на даних з різних статей, на відміну від пошуку, де ви маєте прочитати знайдені статті і самостійно знайти відповідь.
Гнучкість: інструмент знайде дані, які відповідають змісту вашого запитання, незалежно від того, якими словами ви його сформулюєте.
Простоту: достатньо надіслати запитання у чаті зі звичним інтерфейсом
Ми не просто впровадили чатбота — ми створили інтелектуальний хаб, де кожен колега може отримати допомогу 24/7.
