Если вы хоть раз пользовались LLM, то почти наверняка сталкивались с двумя ее классическими болячками: галлюцинациями и устаревшими знаниями. А когда дело доходит до рабочих задач, появляется еще одна проблема — как использовать внутренние документы компании, не выкладывая их в открытый доступ.
Что такое RAGFlow
Retrieval-Augmented Generation (RAG) — это подход, при котором LLM перед генерацией ответа сначала ищет релевантную информацию в заранее переданных ей внутренних ресурсах (базах знаний, таблицах, документах, корпоративных хранилищах), а не в интернете.
Мы предоставляем языковой модели доступ к локальным документам, корпоративным базам знаний и другим внутренним ресурсам уже на этапе использования, а не на этапе обучения. Ответ формируется на основе информации из этих источников, а не на основе того датасета, на котором модель обучали, или случайных данных из интернета. В случае с RAG данные хранятся отдельно, поэтому их можно обновлять в любой момент без дорогостоящего переобучения нейросети. Этот метод позволяет значительно снизить количество недостоверной информации и повысить точность ответов, опираясь на реальные данные.
Более усовершенствованной версией RAG является RAGFlow. Он делает то же самое, только аккуратнее — разбирает документы с учетом их исходного форматирования и логики, а не просто склеивает абзацы. Поэтому лучше справляется со сложными и большими файлами — отчетами, презентациями, схемами и технической документацией.
Предлагаю рассмотреть несколько аспектов, которые будут удобны пользователю при работе с RAGFlow.
RAGFlow удобен тем, что может работать с разными типами файлов: PDF, Word, Excel, текстом, картинками, сканами и даже веб-страницами. Он нормально обрабатывает структуру документа — заголовки, таблицы, абзацы, графику и благодаря этому точнее выдает нужную информацию. Подробнее это разберем в следующем разделе.
Еще один момент — это система ссылок. Когда модель отвечает, она показывает, из какого именно фрагмента какого файла взяла данные. Можно сразу проверить источник. Это сильно снижает риск галлюцинаций. Плюс есть удобный API, готовые шаблоны агентов и возможность строить цепочки обработки под свои задачи — от простого поиска до более сложных бизнес-сценариев.
Если мы говорим о развертывание RAGFlow внутри инфраструктуры, то тут важно следующее. Платформа поставляется в виде готового Docker-образа для архитектуры x86 и включает API, веб-интерфейс, движок индексации и систему выполнения фоновых задач.
Чем RAGFlow лучше классических решений
Мы уже упомянули, что RAGFlow лучше понимает сложную структуру. Давайте разберем технически, в чем именно его отличие от стандартных решений.
Главная проблема традиционных RAG-систем — «слепой» чанкинг или простыми словами нарезка текста. Большинство из них просто разбивают файл на равные куски фиксированного размера (например, по 500–1 000 токенов) и превращают их в векторы.
Такой подход хорошо работает на простом тексте, но часто теряет контекст. Например, таблица может разрезаться посередине, заголовок отрывается от абзаца, а сноска или подпись к рисунку оказывается в другом фрагменте. В итоге модель получает обрывки и начинает додумывать.
RAGFlow работает на уровне верстки. Инструмент изначально проектировался под сложную документацию. Он сначала строит архитектуру файла — распознает древо заголовков, выделяет сетку таблиц, сканирует графику — и только потом формирует смысловые блоки.
В контекст LLM попадает не случайный фрагмент, а цельный объект с сохранением всех логических связей.
Рассмотрим пример работы моделей
Давайте представим, что у нас есть технический отчет в PDF на 40 страниц. В нем есть:
- оглавление с многоуровневыми заголовками;
- несколько таблиц с характеристиками оборудования;
- схема с подписями;
- сканированные страницы с рукописными пометками.
А еще на 25-й странице лежит таблица с характеристиками оборудования, а на 26-й — примечание с условиями гарантии при повышенном напряжении.
Задаем вопрос: «Какой гарантийный срок у модели X при работе от 380V?»
Классический RAG: разрежет 25-ю и 26-ю страницы на разные куски. В векторный поиск попадут слова «модель X» и «380V», но строчка с гарантией оторвется. В итоге нейросеть выдаст неточный ответ или выдумает цифру, потому что у нее нет цельной картины.
RAGFlow выполнит следующие шаги:
- распознает таблицу как единый объект и сохранит ее структуру;
- поймет, к какому разделу относится информация;
- при ответе покажет конкретные ячейки таблицы или абзацы, на которые опирался;
- позволит нам сразу увидеть источник и проверить корректность.
Именно поэтому система особенно хорошо подходит для технической документации и юридических документов, исследовательских материалов и любых сценариев, где важна точность ответа.
Сценарии RAGFlow
Конечно, многим сначала хочется знать, какую боль это решит, а уже потом, как все устроено. Поэтому предлагаю рассмотреть несколько сценариев, в которых мы можем применить RAGFlow.
Корпоративная база знаний
Сотрудники загружают внутренние регламенты, инструкции, политики, технические описания и задают вопросы вроде «Как правильно оформить заявку на доступ?» или «Какие требования к резервному копированию?». Система отвечает с цитированием конкретных разделов документов.
Техническая поддержка и Helpdesk
RAGFlow помогает инженерам быстро находить информацию в документации по продуктам, а в инструкциях — по устранению неисправностей. Особенно полезно, когда документация объемная и содержит таблицы, схемы и сканы.
Работа с технической и проектной документацией
Инженеры, архитекторы и разработчики используют систему для поиска по спецификациям, ТЗ, чертежам, таблицам характеристик и отчетам. Система лучше классических RAG справляется с таблицами и структурированными данными.
Аналитика
Исследователи и аналитики загружают отчеты, статьи, презентации и исследования, после чего могут задавать сложные вопросы, для которых нужен ответ с опорой на несколько источников. Подходит для подготовки обзоров и сводок.
Онбординг новых сотрудников
Новички получают доступ к единой базе знаний компании и могут быстро находить ответы на вопросы по процессам, инструментам и правилам без необходимости постоянно спрашивать коллег.
Что нужно для запуска RAGFlow и как избежать боли при настройке
Внедрение RAGFlow — это серьезный шаг в построении своей инфраструктуры как с технической точки зрения, так и с точки зрения зрелости процессов (у вас должен быть не просто объем на 100 ГБ). Развертывание платформы с нуля означает, что вам предстоит поднять и подружить между собой целый зоопарк сервисов.
Нужно настроить контейнеризацию, установить векторные базы данных (например, Elasticsearch или OpenSearch), развернуть MySQL, Redis, MinIO для хранения объектов и, что самое критичное, правильно установить драйверы для работы с GPU. На стыке этих компонентов часто возникают конфликты версий, поэтому первоначальная настройка среды может отнять у инженера не один день.
Чтобы избежать этой рутины и сразу перейти к загрузке документов и тестированию языковых моделей, удобнее использовать уже преднастроенные среды. Многие облачные провайдеры предоставляют готовые серверные образы, в которых все зависимости уже учтены и протестированы.
Например, в Selectel можно использовать готовый образ RAGFlow Virtual Machine — это преднастроенный сервер для глубокого анализа документов.
Образ на базе Ubuntu 24.04 LTS уже содержит все необходимое для работы:
- RAGFlow — саму платформу;
- Docker и Docker Compose;
- Elasticsearch и OpenSearch;
- Infinity, OceanBase, SeekDB;
- MySQL, MinIO, Redis, NATS;
- Kibana;
- драйверы для работы с GPU.
Минимальные требования для создания сервера:
| Параметр | Значение |
| vCPU | 4 |
| RAM | 16 ГБ |
| Загрузочный диск | 80 ГБ |
| GPU | Обязательно |
Развертывание RAGFlow VM
Давайте приступим к развертыванию нашего облачного сервера. Вы можете перейти в раздел через ИИ-маркетплейс или напрямую через панель управления, нажав в верхнем меню на кнопку Продукты и выбрав Облачные серверы.
Далее выберем Создать сервер.
Введите имя сервера. Оно будет установлено как имя хоста в операционной системе. И выберите локацию, от нее зависит список доступных конфигураций сервера и стоимость ресурсов.
После создания сервера изменить локацию нельзя.
В качестве источника выбираем вкладку Приложения и находим RAGFlow VM.
Также для работы нашего сервера необходимо выбрать конфигурацию с GPU. Зачем это нужно? Платформа активно использует модели глубокого машинного обучения: для оптического распознавания текста на сканах, анализа сложной верстки и преобразования извлеченного текста в векторный формат (эмбеддинги). Выполнение этих задач на обычных процессорах будет невероятно долгим, поэтому наличие видеокарты — обязательное условие для нормальной работы системы.
После выбираем нужный тип и объем диска.
Также вы можете добавить SSH-ключ для удобства подключения.
Сервер создан!
Далее снова переходим во вкладку Продукты и в крайнем правом столбце выбираем пункт AI-маркетплейс.
После выбираем пункт «Перейти в GUI».
Кнопка перенаправит вас в веб-интерфейс RAGFlow. При первом запуске вас встретит окно регистрации: нужно ввести email, никнейм и задать пароль для создания локальной учетной записи.
После успешной авторизации вы попадете в главное меню. У платформы минималистичный интерфейс с поддержкой русского языка.
Прямо с дашборда можно перейти в раздел «Датасет», загрузить первые документы и начать тестировать RAG-движок.
Заключение
RAGFlow — нельзя расматривать только как один из подпунктов RAG. Это инструмент, который кратно повышает качество работы с документами. Благодаря глубокому пониманию структуры текста и прозрачному цитированию источников он заметно снижает количество галлюцинаций LLM и делает ответы модели более достоверными.
Особенно хорошо система показывает себя там, где важна точность: в корпоративных базах знаний, работе с проектной документацией и аналитике.
