Локальные AI агенты для компьютера

Содержание страницы

• Что такое локальный ИИ-агент
• Четыре признака по-настоящему локального агента
• Что не является локальными агентами
• Как собирается локальный агент: гайд для начинающих
• Какую модель выбрать под агента
• Требования к железу и реальная скорость
• Топ-5 локальных ИИ-агентов
• 1. Дока — локальный ИИ агент на ПК без единой команды в терминале
• 2. AnythingLLM — документы, агенты и MCP в одном окне
• 3. Goose — универсальный агент с доступом к системе
• 4. Cline — локальный ИИ агент для программирования
• 5. n8n с Ollama — локальные ИИ агенты по расписанию
• Один сценарий для всех пяти: как проверить агента за полчаса
• Безопасность: локальный не значит безопасный
• Сравнительная таблица
• Когда локальный агент не нужен
• Вывод
• Показать ещё (12)

Про локальные нейросети на домашнем компьютере написано уже много, писали неоднократно и мы. Сюжет обычно один: поставили движок, скачали модель, поговорили с ней в окошке. А дальше начинается рабочий процесс — и тут выясняется, что чат и агент это совершенно разные звери. Чат отвечает словами. Локальный ИИ-агент делает дело: открывает папки, читает документы, запускает команды, правит файлы и сам решает, какой инструмент взять на следующем шаге.

Разница принципиальная, но в обзорах ее часто размывают. В подборках «лучших локальных агентов» регулярно оказываются инструменты, у которых локален один только значок в доке, а вся работа уходит на чужие серверы. Здесь мы расскажем именно о тех ИИ-агентах, которые вы сможете запустить на своем локальном ПК.

Что такое локальный ИИ-агент

Локальный ИИ-агент — это программа, которая держит языковую модель на вашем железе и имеет право совершать действия в вашей системе. ИИ здесь выступает не собеседником, а распорядителем: получает задачу, выбирает подходящий инструмент, смотрит на результат и решает, что делать дальше. Цикл повторяется, пока задача не закроется или пока агент не упрется в стену.

Набор инструментов у агента примерно такой: файловая система, терминал, поиск по документам, иногда браузер и внешние сервисы через протокол MCP. Именно доступ к инструментам отличает агента от чат-бота, которому вы вручную копируете текст из файла и вручную же переносите ответ обратно.

Но для чего вообще нужно разворачивать все это у себя на ПК? Причин как правило три.

• Документы, переписка и код не уезжают на чужие серверы — для юристов, медиков и всех, у кого есть NDA, это единственный способ пользоваться ИИ без нарушения договора.
• Агент не зависит от интернета, лимитов, блокировок и очередей — рабочий процесс не стопорится, когда у провайдера модели выходной.
• Платить за токены не нужно: вы (один раз) тратитесь на железо и (регулярно) на электричество, но объем задач не влияет на счет.

Четыре признака по-настоящему локального агента

Слово «локальный» в маркетинге затерли до состояния, в котором оно уже ничего не значит. Но есть четыре совершенно четких критерия.

• Где работает модель. Веса лежат у вас на диске, инференс считает ваш процессор или видеокарта. Если запрос уходит по сети в чужой API, локальности нет, как бы ни выглядел интерфейс.
• Где выполняются действия. Агент запускает команды и правит файлы на вашей машине, а не в арендованной песочнице на чужой стороне.
• Где остаются данные. Содержимое документов, история диалогов и векторный индекс хранятся локально, а не синхронизируются с облачным аккаунтом.
• Что уходит в сеть помимо этого. Телеметрия, проверка обновлений, веб-поиск, удаленные MCP-серверы — каждый из этих каналов открывается отдельно и отключается тоже отдельно.

Четвертый пункт обычно и оказывается сюрпризом. Например, у AnythingLLM приложение полностью локальное, но аналитика в нем включена по умолчанию: разработчикам уходит тип установки, факты добавления документов, название выбранной модели и события отправки сообщений. И даже после отключения приложение продолжит ходить на собственный CDN за моделями и на GitHub за служебными файлами. Может, для кого-то это не критично, но такой агент нельзя назвать полностью локальным.

Что не является локальными агентами

Две категории инструментов регулярно попадают в подборки локальных агентов, но это может ввести в заблуждение. Наведем с ними ясность.

• Claude Code, Codex и Cursor запускаются у вас на компьютере и правят ваши файлы, но сам ИИ находится в облаке. Выдерните кабель — и агент замолчит на первой же реплике. Локален только интерфейс.
• Ollama и LM Studio, наоборот, честно считают инференс на вашем железе, но не являются агентами: это движки, которые умеют загрузить веса модели и отдать ответ по API. Решения о том, какой файл открыть и какую команду запустить, принимает LLM, которая накатывается отдельно поверх них.

Из второго пункта следует и общая архитектура: локальные ИИ-агенты почти всегда не ставятся одной кнопкой, а собираются из слоев.

Как собирается локальный агент: гайд для начинающих

Если вы еще никогда не ставили локального ИИ-агента, но хотите попробовать — вот туториал по входу в тему.

Конструкция агента состоит из четырех «этажей», и на каждом вы выбираете деталь под свои задачи и свое железо. Понимание этой схемы полезно на начальном этапе: надо заранее знать, что именно у вас не заработает.

1. Движок. Программа, которая загружает веса модели в память и отдает ответы по локальному адресу. Самый массовый вариант — Ollama, порт 11434. Альтернатива с графическим интерфейсом — LM Studio, порт 1234.
2. Модель. Сама LLM в виде файла, который вы скачиваете через движок (такой файл называется «веса модели»). Для агента критично, чтобы модель умела вызывать инструменты. Об этом поговорим ниже отдельно.
3. Оболочка-агент. Рабочая программа, для которой LLM является мозгом. Агент ведет диалог, решает, что делать, и имеет доступ к файлам и терминалу. Это и есть герои нашей подборки.
4. Инструменты. Дополнительные умения, которые подключаются к агенту через MCP: работа с календарем, базами данных, мессенджерами, браузером.

Порядок действий при первой установке прямой: сначала движок, потом модель, потом агент, потом настройка доступа. Поменяете местами — будете полчаса смотреть на сообщение об ошибке подключения.

Отдельно для тех, кто терминал видел только в кино. Как правило, на сайте нет кнопки «Скачать агента» в привычном понимании. Для примера возьмем Ollama. Вы устанавливаете движок, он работает в фоновым процессе, а модели, оболочки и инструменты тянутся командой вида ollama pull и названия модели.

Если это звучит как что-то на программистском — попробуйте первый инструмент в нашей подборке. Там движок и модель уже собраны заранее, терминал не нужен вовсе.

Какую модель выбрать под агента

Здесь у новичков возникает больше всего трудностей. Например, скачивают сразу модель побольше, или ту, что сейчас на слуху. А потом либо комп не тянет, либо оказывается, что это не агент.

Для работы агента нужна не самая умная модель, а модель, обученная вызову функций, — например, возвращать структурированную команду вроде «прочитай файл по такому пути». Модели без этой способности в агентной оболочке просто не работают. Скажем, популярные рассуждающие сборки DeepSeek-R1 умеют общаться и генерировать контент, но вызова инструментов не поддерживают, и расширения с ними придется отключать.

Мощность модели также ограничивается возможностями вашего железа — прежде всего видеокарты. Решающим является объем памяти VRAM.

Ориентиры по VRAM сейчас примерно такие.

• 8–16 ГБ: потянет Qwen3.5-9B в четырехбитной сборке, файл весов около 5,6 ГБ — рабочий минимум для простых поручений.
• 16 ГБ: будет работать gpt-oss-20b, около 12 ГБ весов, с родной поддержкой вызова функций и структурированного вывода.
• 24–32 ГБ: уже более серьезно. Можно замахнуться на Qwen3.6-35B-A3B или GLM-4.7-Flash — уровень, на котором агент начинает справляться с многоходовыми задачами.

Что до самих моделей, их подробное сравнение с требованиями к памяти у нас вынесено в рейтинг локальных нейросетей для установки на ПК.

Требования к железу и реальная скорость

Главное правило простое: модель должна целиком помещаться в память, желательно в видеопамять. Как только часть весов или кэша переезжает в оперативку RAM, скорость падает в разы — на RTX 4090 та же модель выдает около 225 токенов в секунду, а на карте с 12 ГБ, где она уже не помещается, остается тридцать.

И здесь прячется ловушка. Агент потребляет контекст прожорливо: в окно лезут описания инструментов, содержимое прочитанных файлов и вся история шагов. Хочется выставить максимальное окно — но кэш внимания на 128 тысяч токенов не влезает в 16 ГБ видеопамяти. В итоге генерация падает до 9 токенов в секунду независимо от того, какая у вас видеокарта. Если же ограничить размер окна 8 тысячами токенов — скорость возвращается.

В общем, если у вас не топовый конфиг и не стойка серверов, запасайтесь таблетками от жадности.

Сводный ориентир по конфигурациям выглядит так.

• 8–16 ГБ оперативной памяти без видеокарты: агент запустится на компактной модели, но каждый шаг будет занимать десятки секунд.
• 12 ГБ видеопамяти: комфортно живут модели на 7–14 млрд параметров — хватает для разбора документов и несложных поручений.
• 16 ГБ видеопамяти: рабочий минимум для агента, которому уже можно доверить кодинг, при условии ограничения контекста.
• 24–32 ГБ видеопамяти или Mac с объединенной памятью от 32 ГБ: уровень, на котором локальный агент перестает раздражать.

Топ-5 локальных ИИ-агентов

Подборку я составлял по трем критериям: агент должен действительно выполнять действия, а не только разговаривать; должен работать с моделью на вашем железе; должен устанавливаться без зарубежной карты и VPN.

Порядок — от инструментов для обычного пользователя к решениям для тех, кто дружит с консолью.

1. Дока — локальный ИИ агент на ПК без единой команды в терминале

Официальный сайт: dokaai.ru

Платформа: Windows 10/11, macOS 13+ на Apple Silicon, Linux.

Доступность в России: Полная. Российский проект, сайт открывается без VPN, регистрация не нужна.

Единственный в подборке агент, который не требует ни терминала, ни отдельной установки движка. При первом запуске программа сама подтягивает модель весом около 5 ГБ и подбирает сборку под ваше железо, а дальше интернет ей для рассуждений не нужен.

Внутри — Qwen3.5 с заявленным окном в 262 тысячи токенов и облегченный режим для слабых машин.

Умеет Дока ровно то, что ожидаешь от агента: читает, создает и правит файлы, выполняет команды в терминале с вашего разрешения, ищет в интернете, подключает MCP-серверы. Перед удалением или перезаписью спрашивает подтверждение и делает снимок состояния для отката. Интерфейс русский, причем родной, а не машинный перевод.

Цены: Бесплатно, без подписки, регистрации и лимитов на сообщения.

2. AnythingLLM — документы, агенты и MCP в одном окне

Официальный сайт: anythingllm.com

Платформа: Windows, macOS, Linux, Docker, Android.

Доступность в России: Полная. Бесплатно, оплата не требуется, VPN не нужен.

Самый «обжитой» вариант для тех, кому агент нужен ради работы с документами. Внутри собственный движок на llama.cpp, но при желании подключаются Ollama, LM Studio и еще полдюжины бэкендов. А база знаний с локальным векторным хранилищем позволяет разбирать архив договоров без единого обращения в сеть.

Агентная часть сделана обстоятельно: конструктор агентов без кода, набор навыков, запуск задач по расписанию, память между диалогами и поддержка MCP. Русский интерфейс включается в настройках, лицензия MIT, около 67 тысяч звезд на GitHub — по меркам локальных инструментов это очень много.

Цены: Бесплатно. Десктопная версия полнофункциональна, Docker-вариант нужен только для многопользовательских сценариев.

3. Goose — универсальный агент с доступом к системе

Официальный сайт: block.github.io/goose

Платформа: Windows, macOS, Linux — десктопное приложение и консольная версия.

Доступность в России: Полная, оплата не требуется.

Агент общего назначения от компании Block, написанный на Rust. В отличие от помощников, заточенных под код, Goose одинаково спокойно берется за разбор данных, написание текстов и рутинную автоматизацию; поставляется и приложением, и консолью, а через MCP к нему подключается больше семидесяти готовых наборов инструментов.

Локальный режим у «Гуся» работает через Ollama, и тут два подводных камня. Модель обязана поддерживать вызов инструментов, иначе расширения придется отключить и агент выродится в обычный чат. А окно контекста у Ollama по умолчанию всего 4096 токенов — для агента это мало, и расширения будут тормозить и глючить, пока вы не поднимете лимит переменной окружения.

Цены: Бесплатно, лицензия Apache 2.0, ограничений на использование нет.

4. Cline — локальный ИИ агент для программирования

Официальный сайт: cline.bot

Платформа: Расширение для VS Code.

Доступность в России: Полная. Устанавливается из каталога расширений, оплата при работе с локальной моделью не требуется.

Если вам нужен локальный ИИ агент для программирования, Cline — самый проторенный путь. Он живет внутри VS Code, читает проект целиком, предлагает правки в виде диффа и запрашивает подтверждение на каждую команду, а контрольные точки позволяют откатиться к состоянию до вмешательства агента.

Подключение локальной модели сводится к выбору провайдера и адреса: 11434 для Ollama, 1234 для LM Studio. Насчет памяти разработчики пишут прямо: 16–32 ГБ хватает только на компактные и сжатые модели. Средние кодовые просят 32–64 ГБ, большие — от 64 ГБ.

Цены: Само расширение бесплатно, лицензия Apache 2.0. Платить придется только при подключении облачных моделей вместо локальных.

5. n8n с Ollama — локальные ИИ агенты по расписанию

Официальный сайт: n8n.io

Платформа: Docker на Windows, macOS, Linux.

Доступность в России: Полная. Self-hosted-версия ставится локально и бесплатна для собственных задач.

Вариант для тех, кому нужен не просто помощник, а конвейер. У платформы визуальной автоматизации n8n есть готовый стартовый набор для локального ИИ: одна команда разворачивает связку из самой платформы, движка Ollama, векторной базы Qdrant и PostgreSQL, дальше вы собираете агента мышью из блоков и вешаете на расписание.

Берут это под задачи скучные и полезные: ночной разбор папки с накладными, выжимка из входящих документов, внутренний бот без передачи данных наружу. Разработчики предупреждают, что набор задуман как среда для проверки идей, — перед серьезным использованием его нужно дорабатывать и защищать.

Цены: Self-hosted-версия бесплатна для собственных нужд, платить нужно только за облачную подписку, которая в локальном сценарии не требуется.

Один сценарий для всех пяти: как проверить агента за полчаса

Сравнивать агентов по списку возможностей бессмысленно — в описании у всех написано примерно одно и то же. Я предлагаю простой и безопасный тест, который показывает реальное положение дел и ничего не ломает: агент только читает и создает один новый файл, ничего не удаляя и не перезаписывая.

Задача формулируется так: просмотри папку с документами, для каждого файла определи дату и краткое содержание, собери результат в таблицу и сохрани ее новым файлом в той же папке. Десяти-пятнадцати разнотипных документов достаточно.

Прогонять его стоит на всех кандидатах, которых вы рассматриваете, и смотреть на четыре вещи.

• Выбрал ли агент правильный инструмент с первого раза или начал с попытки ответить по памяти.
• Не выдумал ли он содержимое файлов, которые на самом деле не открывал, — самая частая и самая незаметная ошибка маленьких моделей.
• Сколько шагов и сколько минут занял проход, и не уперся ли агент в предел контекста на середине.
• Сколько раз он спросил подтверждение и насколько внятно объяснил, что собирается сделать.

Ожидания завышать не стоит. Дока и AnythingLLM на такой задаче ведут себя спокойнее всего — она укладывается в их основной сценарий. Goose справляется, но требует, чтобы вы заранее подняли окно контекста. Cline формально тоже умеет, однако он заточен под проект с кодом, и на папке с договорами его преимущества не проявляются.

В общем, проверьте. Если на этом тесте ваша конфигурация ведет себя прилично, можно переходить к задачам посложнее. Если агент сочиняет содержимое документов — меняйте модель, а не инструмент.

Безопасность: локальный не значит безопасный

С локальными агентами связан популярный миф: раз все работает у меня на компьютере, я гарантирован от всех рисков. Риски есть, но они другой природы, чем с облачным сервисом.

Опасное сочетание складывается из трех свойств, хотя каждое по отдельности безобидно.

• Агент имеет доступ к системе и может сделать все то же, что и вы — включая то, чего вы делать не собирались.
• Агент читает данные, которым нельзя доверять: письма, веб-страницы, чужие документы — а в них можно спрятать вредоносную инструкцию, адресованную модели.
• У агента есть каналы наружу, через которые информация, к которой он получил доступ, способна уехать «налево».

Маленький пример: аудит почти четырех тысяч расширений для локальных агентов из публичных каталогов показал, что 7,1% из них содержат критические уязвимости с утечкой учетных данных.

Меры предосторожности при этом несложные, просто соблюдайте их с первого дня.

• Не отключайте подтверждение действий, каким бы утомительным оно ни казалось.
• Выделяйте агенту отдельную рабочую папку, а не весь домашний каталог.
• Не запускайте экспериментальные сборки на машине с рабочими документами и доступом к банковским сервисам.
• Проверяйте, что именно вы подключили через MCP, — удаленный сервер получает все, что агент ему отправит.

Сравнительная таблица

Сведем главное о пятерке в одну картину.

Когда локальный агент не нужен

Локальный ИИ-агент обычно проигрывает облачному по качеству рассуждений, по понятным причинам. И разрыв пока не сокращается. Поэтому если машина у вас не топовая, а рассуждение нужно качественная — придется работать в облаке.

Если у вас нет требований по конфиденциальности, задач без связи и желания разбираться с видеопамятью, рациональнее покупать доступ к топовым моделям за рубли. Его дают российские сервисы-агрегаторы — у AIgrator стоимость запроса видна до отправки, у GPTunnel и BotHub шире каталог моделей.

Также имеет смысл гибридная схема: чувствительные документы разбирает локальный агент, сложные рассуждения уходят в облако.

Вывод

Локальные ИИ-агенты сегодня находятся примерно там же, где персональные компьютеры в начале 1980-х: уже работают, уже делают полезное, но требуют от владельца понимания, что внутри. Это не недостаток технологии, а свойство ее возраста. И оно же дает редкое ощущение, почти исчезнувшее из цифровой жизни, — вещь принадлежит вам целиком, вместе с мозгами.

Начните с малого: поставьте один агент, дайте ему одну папку и одну задачу. Через вечер вы будете знать про свое железо и про границы маленьких моделей больше, чем из любого обзора, включая этот.

Часто задаваемые вопросы

Что такое локальный ИИ агент?

Это программа, которая запускает языковую модель на вашем компьютере и позволяет ей совершать действия — читать файлы, выполнять команды, пользоваться инструментами. От чат-бота она отличается именно правом действовать, а не только отвечать.

Работает ли локальный ИИ агент совсем без интернета?

Модель и действия — да, после первой загрузки весов сеть им не нужна. Интернет потребуется только для веб-поиска, обновлений и удаленных MCP-серверов, которые отключаются отдельно.

Какой компьютер нужен для локального агента?

Комфортный минимум — видеокарта с 16 ГБ памяти или Mac с объединенной памятью от 32 ГБ. На 8–16 ГБ оперативной памяти без видеокарты агент запустится, но каждый шаг будет занимать десятки секунд.

Какие локальные ИИ агенты понимают русский язык?

Русский интерфейс есть у Доки и AnythingLLM, а качество ответов зависит от модели, а не от оболочки. Современные сборки Qwen и Gemma с русским справляются уверенно.

Claude Code и Codex — это локальные агенты?

Нет. Они запускаются на вашем компьютере и правят ваши файлы, но модель работает в облаке, и без интернета оба замолкают.

Безопасно ли давать агенту доступ к файлам?

При включенном подтверждении действий и отдельной рабочей папке — в целом да. Главный риск не в самом агенте, а в спрятанных инструкциях внутри документов и писем, которые он читает.