Как установить OpenJarvis

Гений, миллиардер, плейбой, филантроп — цитата из «Железного человека», которую знают все. И полетать в железном костюме, конечно, тоже все хотели. Но раз уж собрать его на коленке в гараже не получится (а попытки были), можно начать с малого — настроить умного помощника, который управлял мастерской, да и этой броней.

Команда из Стэнфорда как раз выпустила OpenJarvis — открытый фреймворк для создания персональных ИИ-агентов. Давайте посмотрим, как его развернуть на собственной инфраструктуре и действительно ли проект оправдывает свое название.

Что там по цифрам

Как я уже сказал, OpenJarvis — фреймворк от Стенфордских исследователей, предназначенный для создания локальных персональных ИИ-агентов. Университет проверил работу более чем на 20 моделях на 8 ускорителях. Результаты показали: локальный софт успешно закрывает более 88,7% обычных запросов пользователей. 

При этом за последние годы эффективность работы моделей на своем железе выросла в 5,3 раза. Если раньше локально удавалось обработать только 23,2% задач, то теперь эта цифра дошла до 71,3%. 

Статистика подтверждает: современные модели вполне созрели для того, чтобы отказаться от платных и небезопасных API. OpenJarvis как раз берет на себя техническую часть по развертыванию приватного ассистента.

Архитектура 

Архитектура OpenJarvis модульна, и состоит из пяти примитивов.

Agents — логика поведения агентов. Определяет, как именно агент реагирует на запросы. Общение разделяется по ролям с собственным поведением и стратегией. 

Tools and Memory — хранений знаний и интеграция. Примитив отвечает за подключение к данным и функциям. 

Learning — обучаемость моделей. Собранные логи и трейсы используются для дообучения и оптимизации.

Intelligence — каталог языковых моделей. Отвечает за выбор и настройку языковых моделей. Каталог моделей хранится с метаданными (требования к памяти, размеры параметров) и хранит конфигурацию выбранной модели.

Engine — движок инференса. Единый интерфейс над разными бэкендом. Движок определяется по производительности оборудования, по команде jarvis init определяется оптимальная конфигурация.

Стек агента разбивается на независимые слои, которые можно оптимизировать и тестировать отдельно. Такая структура отличается от общепринятой монолитной системы, которая обычно располагается в облаке. В фреймворк встроена система телеметрии, которая измеряет энергопотребление, время отклика, стоимость инференса.

Особенности и нюансы

Среди ключевых особенностей OpenJarvis выделяется гибкость бэкендов. Кроме локальных движков по типу vLLM, Ollama и других, доступны облачные API. Фреймворк детектирует CPU/GPU и рекомендует лучшую связку движок + модель. 

Также фреймворк предлагает развитую систему инструментов. Протоколы MCP и Google A2A позволяют агентам безопасно вызывать внешние функции и обмениваться контекстом. Семантическое индексирование обеспечивает быстрый поиск по личным файлам и документам — агент ищет требуемые записи и передает их модели.

Стоит отметить, что OpenJarvis ориентирован на измеримость и эффективность. Измеряется не только качество ответов, но и затраты ресурсов. Пользователям и разработчикам даются инструменты мониторинга, которые ведут подсчет энергии, задержки, FLOPs, точности и стоимости. 

Все эти метрики позволяют сделать вывод, какая модель эффективна не только по результатам ответов, но и по энергопотреблению, стоимости и точности.

Система плагинов и память улучшают OpenJarvis — агент может использовать готовые или кастомные умения, и наращивать контекст из пользовательских данных. Это новый виток развития агентов, пришедших на замену локальным чат-ботам. Полноценная экосистема агента прямо в вашем ПК.

Пользоваться агентом можно через CLI, нативное приложение или веб-версию.

Создаем первого агента

Перед развертыванием определимся с железом. Я беру сбалансированный вариант: 8 ядер CPU, 32 ГБ оперативной памяти и видеокарту с 16 ГБ VRAM (например, NVIDIA L4). Такой конфиг необходим для работы квантованных моделей и комфортного удержания контекста в районе 10B+ токенов.

Поскольку собирать подобную сборку дома ради одного проекта накладно, да и шуметь под столом она будет прилично, я арендовал готовый сервер в Selectel. Это позволяет сразу получить нужные CUDA-ядра в защищенном контуре и не упираться в лимиты домашнего ПК.

Для этого переходим в панель управления, вверху нажимаем на Продукты. Далее выбираем Облачные серверы в разделе «Вычисления».

Затем нажимаем по кнопке Создать сервер.

Архитектуру дисков и операционную систему (я выбрал Ubuntu 24.04 LTS) можно оставить базовыми, главное — убедиться, что в выпадающем списке графических ускорителей активна нужная нам видеокарта.

Нажимаем Создать. Как только статус сервера изменится на «Активен», подключаемся к нему по SSH.

После этого клонируем OpenJarvis на сервер, затем устанавливаем виртуальное окружение и зависимости:

      git clone https://github.com/open-jarvis/OpenJarvis.git
cd OpenJarvis
uv sync

В качестве локального бэкенда будем использовать Ollama. Скачиваем официальный скрипт установки и запускаем его:

      curl -fsSL https://ollama.com/install.sh -o install.sh
bash -x install.sh

Теперь можно загрузить саму языковую модель. Для нашего сбалансированного конфига подойдет qwen3:14b — она достаточно умная для агентских задач, но при этом легко уместится в памяти выбранной видеокарты. Скачиваем ее через CLI:

      ollama pull qwen3:14b

Проверяем установку jarvis:

      uv run jarvis doctor

По команде ollama list мы можем проверить нашу модель в списке:

По команде nano ~/.openjarvis/config.toml мы можем проверить конфигурацию OpenJarvis:

Когда конфигурация проверена, запускаем агента. Для первого теста инициализируем его с пресетом deep-research — этот режим активирует глубокий автономный поиск информации в сети и анализ документов:

      uv run jarvis init --preset deep-research

Система готова к работе. В качестве тестового запроса попросим агента поздороваться с нами:

      uv run jarvis ask hello!

Время ожидания составило около 30 секунд. 

Агент выдал фразу: Hello! How can I assist you today?

А теперь спросим что-то реалистичное, например из сферы искусственного интеллекта:

      uv run jarvis ask найди все конференции по ИИ и МЛ, которые пройдут в России с июля по декабрь 2026 года

Ответ последовал через три минуты:

Выборочно проверил результат — ссылки рабочие, но часть мероприятий была уже неактуальна.

Сценарии использования

OpenJarvis — локальный агент, и он универсален для многих задач. Его можно настроить на утренний брифинг — каждое утро агент собирает из вашего рабочего окружения (почта, календарь, Jira) важную информацию, формулирует и корректирует ее, а затем присылает на почту готовый отчет.

Агент также способен мониторить задачи — непрерывно обрабатывать события, прилетающие на почту, в Telegram или Jira, и производить какие-либо действия, настроенные пользователем. Для этого у него есть модуль прямого управления операционной системой: пресет code-assistant дает ему доступ к терминалу для запуска shell-команд и работы с файлами, а интеграция с браузером позволяет открывать нужные вкладки и софт.

Из стандартных сценариев использования — deep research для сложных вопросов, поиск по локальным источникам из внутренних баз. Также стоит отметить Code assistant для помощи разработчику, и обычный чат для общения в виде вопрос/ответ.

Причем в режиме ассистента он умеет не просто писать код, но и делать скриншоты экрана: благодаря мультимодальным Vision-моделям Jarvis анализирует интерфейс и понимает контекст вашей работы в реальном времени.

Проблемы, ограничения

Самая главная проблема при локальном развертывании OpenJarvis — системные требования самих моделей. Несмотря на рост их эффективности, для полноценной работы агента все еще нужен мощный графический ускоритель. Не каждый ПК способен быстро выдать ответ на сложный вопрос или оперативно собрать ежедневную выжимку. При нехватке локальных вычислительных ресурсов пользователь неизбежно сталкивается с падением точности ответов, высокой задержкой генерации и слишком коротким окном контекста, которого не хватает для длинных цепочек рассуждений.

Также проект разрабатывается инициативной группой в академической, «идеальной» среде. Отсюда возникает вопрос: насколько долго команда будет поддерживать и развивать проект? Поддержка системы с пятью примитивами тоже вносит свою лепту в небольшой скепсис.

Чтобы интегрировать агента в свои системы, необходим хороший навык администрирования. Всегда есть риск забыть изолировать агента в песочнице или вовремя не ограничить его права в локальной среде, что приведет к угрозе утечки информации и компрометации системы. 

Выводы

OpenJarvis, развиваемая инициативной группой из Стенфорда, довольно полезна для развертывания локальных ИИ-агентов на собственном железе. У нее много сильных сторон — гибкость, ресурсная эффективность, простота развертывания (не интеграции!). Все больше задач из облака можно перенести в локальную плоскость, где можно дать доступ агенту к внутренней документации и задачам, не переживая за безопасность. 

При этом использование агента требует ресурсов для содержания железа для агента и скиллов для понимания и настройки инструментов и сценариев. Ограничения локальных моделей еще ощутимы, поэтому пользователь выбирает между скоростью, удобством и точностью, либо контролем за данными и возможностью создавать кастомные сценарии.

Jarvis шагнул немного дальше OpenClaw, открыв платформу для развертывания локальных агентов. Потенциал проекта раскроется, когда в него инвестируют капитал, но тогда мы рискуем потерять платформу для локальных агентов в пучине OpenAI или других корпоративных гигантов. В любом случае, мы наблюдаем очередной виток прогресса в этой гонке ИИ-вооружений