Задание: Боты с AI. Интеллектуальная база знаний (RAG) с API и интеграцией в Bitrix24 (Дистанционная работа)
Техническое задание: Интеллектуальная база знаний (RAG) с API и интеграцией в Bitrix24
1. Этапы реализации проекта
Этап 1: Инфраструктура и локальное хранение (РФ)
Развертывание системы на сервере заказчика (локация: РФ).
Настройка защищенного хранилища для документов (PDF, сканы, текст, таблицы). Все файлы и векторная база должны физически находиться на сервере в РФ.
Обеспечение стабильного доступа к LLM (GPT-4o / Claude / Llama) с учетом региональных ограничений (проксирование или локальный запуск).
Этап 2: Индексация данных и настройка RAG
Загрузка и автоматическая обработка массива данных (50–200+ файлов).
Настройка качественного парсинга (OCR для сканов, разбивка текста на оптимальные смысловые блоки — чанки).
Настройка логики ответов: система должна отвечать строго на основе загруженных документов, цитируя источники и минимизируя «галлюцинации».
Этап 3: Тестирование и подготовка API
Проверка точности ответов на контрольной группе вопросов.
Настройка системного промпта (роль ассистента, стиль общения).
Генерация рабочего API Endpoint для внешних интеграций.
Этап 4: Интеграция (Опционально)
Установка чат-виджета на корпоративный сайт.
Интеграция с чатами и открытыми линиями Bitrix24.
Примечание: Данный этап мы можем реализовать своими силами при наличии документированного API от системы, однако готовы рассмотреть реализацию «под ключ» силами подрядчика при условии разумного ценообразования.
2. Предполагаемый стек решений (Self-hosted)
Для реализации задачи требуется стек, исключающий блокировки и обеспечивающий контроль над данными:
Платформа: Dify.ai, AnythingLLM или аналогичные Open-source RAG системы.
Модели (LLM): GPT-4o / Claude 3.5 (через устойчивые прокси-шлюзы) или полностью локальные модели Llama 3 / Qwen 2 (через Ollama).
Векторная БД: ChromaDB, Qdrant или PGVector.
Среда: Linux (Ubuntu) с поддержкой Docker, размещение в РФ.
3. Требования к подрядчику и условия выбора
Мы ищем специалистов/команду с практическим опытом внедрения LLM в бизнес-процессы.
Критерии выбора:
Демонстрация портфолио: Обязательное наличие аналогичных настроенных баз знаний (RAG-систем). Будьте готовы показать интерфейс админки и примеры того, как система находит ответы в сложных PDF-документах.
Опыт с РФ-инфраструктурой: Понимание специфики работы с зарубежными API из РФ и опыт настройки Self-hosted решений.
Гибкость: Готовность передать работающее ядро системы с API нашей внутренней команде разработки или взять на себя полную интеграцию (сайт + Битрикс24) при согласовании сметы.
