Генерация и редактирование в среде Stable Diffusion

Stable Diffusion => Запросы\prompts и промпт-инжиниринг => LLM, GPT, bots и тд => Тема начата: Dmitronik от Авг. 12, 2026, 12:31

Название: Локальные агенты разработки 2026
Отправлено: Dmitronik от Авг. 12, 2026, 12:31
Локальные агенты для разработки на потребительской видеокарте — 2026

Глубокое исследование аналогов OpenCode / OpenHands / Hermes Agent и связанных open-weight coding-моделей, пригодных для запуска на одной бытовой GPU (8–32 ГБ VRAM). Сбор данных — август 2026, EN + CN + RU источники.

— — — — — — — —

— Executive Summary —

Главный вывод. В 2026 году локальный coding-agent перестал быть «игрушкой для энтузиастов»: open-weight модели достигли паритета с GPT-3.5 / Claude 3.5 Sonnet в большинстве типичных задач, а open-source harnesses догнали Claude Code по удобству терминального UX. На одной RTX 4090 / 5090 / Apple-M-series теперь реально держать daily-driver, который закрывает 70–90% рутинного кодинга.

Пять фактов, на которых строится остальной обзор:


Лучшая связка по умолчанию (RTX 4090 / 5090, 24–32 ГБ):
OpenCode + Ollama + Qwen3-Coder-30B-A3B (Q5_K_M, 16–20 ГБ VRAM, ~120 т/с на 5090) — фактический «daily driver» большинства опытных пользователей Reddit.

Если карта скромная (RTX 3060 12 ГБ, RTX 4060 8 ГБ):
Pi + llama.cpp + Gemma 4 26B A4B (Q4_K_M, ~18 ГБ с offload, ~55 т/с) или Qwen3-Coder-30B-A3B (Q4, частичный offload).

Если критична приватность (compliance, медицина, оборонка):
OpenHands + Ollama (Devstral Small 24B / Qwen3-Coder 30B) — единственный путь, где inference + agent loop + sandbox остаются на своих серверах.

— — — — — — — —

— Research Methodology —


— — — — — — — —

— 1. Карта ландшафта —

1.1 Категории

КатегорияПарадигмаКлючевые игроки
IDE-расширенияживут в VS Code/JetBrains, diff inline, approvalCline, Roo Code, Kilo Code, Continue
Терминальные CLIнативный shell, TUI, git-firstOpenCode, Aider, Codex CLI, Pi, Qwen Code, Gemini CLI
Desktop / Daemonпостоянный процесс, кросс-поверхностный, память, расписаниеHermes Agent (Nous Research), Goose, Frontman
Платформы / SDKenterprise, Docker, облако, масштабированиеOpenHands, Kilo Code (параллельные worktree-агенты)

1.2 Звёзды и активная база (август 2026)

ИнструментGitHub ★ЛицензияЛокальные модели
OpenCode100–172KOpen sourceOllama, LM Studio, любой OpenAI-compatible
Aider39–45.9KApache 2.0Ollama, OpenAI-compat
Cline57.9KApache 2.0OpenRouter, Ollama
Roo Code22K (закрыт май 2026)Apache 2.0через провайдеров
Kilo Codeновый (2025)open coreчерез провайдеров
Pi≈ десятки KMITOllama, LM Studio, llama-server
Hermes Agent≈ 175–182KMITполноценный first-class local
OpenHands80KMITполноценный, основной кейс
Continue26KApache 2.0Ollama
Codex CLI (OpenAI)60KApache 2.0нет (только OpenAI)

Примечание: цифры по звёздам у OpenCode разнятся от 95K до 172K в разных источниках. Самая цитируемая — «100K+».

=== END OF PART 1 ===
Название: Re: Локальные агенты разработки 2026
Отправлено: Dmitronik от Авг. 12, 2026, 12:33
— 2. Детальный разбор по harness'ам —

— 2.1 OpenCode — терминальный «универсал» —

Архитектура и позиционирование. Go-based TUI на Bubble Tea, поддержка 75+ LLM-провайдеров, LSP-интеграция, multi-session, MCP, shareable session links, встроенная интеграция GitHub Copilot (с января 2026) и ChatGPT Plus через OAuth.

Локальный режим. Ollama, LM Studio, любой OpenAI-compatible endpoint. Конфиг в ~/.config/opencode/opencode.json. Ollama docs настоятельно рекомендуют ставить num_ctx ≥ 64K (а не дефолтные 4K), иначе tool calling ломается.

Сильные стороны:

Слабые стороны:

Когда выбирать: терминал — основная среда; нужна гибкость по бэкендам; планируется смешивать локальные модели с облачными (Claude/GPT).

— — — — — — — —

— 2.2 Pi — минималистичный harness от Mario Zechner —

Архитектура. Ядро: 4 инструмента (read, write, edit, bash), маленький system prompt, написан на TypeScript/Node. Расширяется через TypeScript-расширения и skills (Markdown). Четыре runtime режима: interactive, print/JSON, RPC, SDK.

Авторский манифест (Armin Ronacher, январь 2026): «Pi намеренно не имеет MCP в ядре. Если агенту нужно что-то новое — попросите его самого написать это расширение. Это и есть software building software.»

Сильные стороны:

Слабые стороны:

Когда выбирать: важна token efficiency; готовы катать свои extensions; не боитесь CLI и JSON-конфигов; критична воспроизводимость сессий (tree).

— — — — — — — —

— 2.3 Cline / Roo Code / Kilo Code — IDE-семейство —

Cline (57.9K ★). Оригинал, Apache 2.0, VS Code-расширение. Сильнейшая governance: каждый tool call требует явного одобрения пользователя, diff показывается до применения. Минус: «annoying approval flow» — рейтинг 4.0 (264 оценки). Cline v3.58+ добавил native sub-agents и CLI 2.0 с headless-режимом.

Roo Code (22K ★). Форк Cline с режимами Architect/Code/Ask/Debug/Custom. Идеальный рейтинг 5.0 (331 оценка), но проект заархивирован в мае 2026. Поддержка DeepSeek-R1 даёт до 97% экономии относительно frontier-моделей.

Kilo Code (новый, $8M seed, со-основатель — Sid Sijbrandij из GitLab). Взял governance от Cline, режимы от Roo Code, добавил parallel agents через git worktrees, one-click deploy, AI code review, Memory Bank. Поддержка 500+ моделей. Главная претензия сообщества — «forked without proportional upstream contribution».

Что выбирать в 2026:

— — — — — — — —

— 2.4 Aider — git-native pair programmer —

Архитектура. Python, фокус на «AI внутри Git workflow»: каждое изменение автоматически коммитится с описательным сообщением, встроенные diff/undo. Самый зрелый open-source CLI: 4.1M установок, ≈15B токенов в неделю.

Сильные стороны:

Слабые стороны:

Когда выбирать: git — ваша первичная абстракция; работаете с одним файлом или одной веткой за раз; уже платите за Claude/GPT.

— — — — — — — —

— 2.5 OpenHands — enterprise-платформа —

Архитектура. MIT, ≈ 80K ★, $18.8M Series A (Madrona, Menlo, Fujitsu). Раньше — OpenDevin, переименован в 2024. v1.7.0 на май 2026. Observe-think-act loop, SDK + CLI + Cloud, 9M+ downloads.

Сценарии:

Сильные стороны:

Слабые стороны:

Когда выбирать: команда, которой нужно оркестрировать агентов на 10+ проектах; нужна интеграция с PR-чекерами, CI/CD; SOC 2.

— — — — — — — —

— 2.6 Hermes Agent (Nous Research) — persistent daemon —

Архитектура. MIT, ≈ 175–182K ★ на GitHub, релиз 2026-02-25. Persistent daemon: не session-based, помнит контекст между запусками, умеет cron-задачи, 80+ tools, 80+ bundled skills, автоматически генерирует skills по опыту. 16+ интеграций: Telegram, Discord, Slack, WhatsApp, Signal, Email, CLI.

Версии 2026: 0.18.0 «Judgment Release» (Mixture-of-Agents, completion contracts, evidence-based /goal), 0.17.0 (iMessage, Raft agent network, background subagents), v2026.6.5 — «Surface Release» принёс Hermes Desktop.

Сильные стороны:

Слабые стороны:

Когда выбирать: нужна persistent память; хочется агента, который живёт в Telegram/Discord; важна интеграция с уже-установленным Ollama.

=== END OF PART 2 ===
Название: Re: Локальные агенты разработки 2026
Отправлено: Dmitronik от Авг. 12, 2026, 12:34
— 2.7 Continue, Kilo, Goose, OpenClaw, Qwen Code — быстрый обзор —


— — — — — — — —

— 3. Локальные модели для coding-агентов на потребительской GPU —

3.1 Сводная таблица (verified August 2026)

МодельАрхитектураQ4-K-M VRAMКонтекстSWE-bench VЛицензия
Qwen3-Coder-30B-A3BMoE 30B/3.3B active~17–19 GB256K50.3%Apache 2.0
Qwen3-Coder-Next-80B-A3BMoE 80B/3B active~46 GB RAM / 24 GB VRAM (Q4)256K58.7% (Pro 44.3%)Apache 2.0
Qwen3.6-27Bdense 27B~22 GB128K+77.2%Apache 2.0
Qwen3.6-35B-A3BMoE 35B/3B active~24 GB128K+≈ Qwen3-Coder 30BApache 2.0
GLM-4.5-AirMoE 106B/12B active~50 GB128Kниже 4.6MIT
GLM-4.7dense 355BQ4: частично на 24 GB200K73.8%MIT
DeepSeek-R1-distill-32Bdense 32B~20 GB128Kн/дMIT
DeepSeek-V3.2 distill16B/32B12–20 GB128Kниже полнойpermissive
MiniMax M2.5MoEhosted / retired 07-2026200K80.2%open
Llama 4 ScoutMoE 109B/17B activeQ4 ~24 GB10Mниже frontieropen
Devstral-Small-24B (v1.1)dense 24B~15 GB128K53.6%Apache 2.0
Devstral Small 2dense 24B~15 GB256K68.0%Apache 2.0
Qwen2.5-Coder-14Bdense 14B~10 GB128Kниже Qwen3Apache 2.0
Gemma 4 26B A4BMoE 26B/4B active~18 GB (Q4)256Kниже Qwen3, но быстрееApache 2.0
GPT-OSS-20BMoE 21B/3.6B active~16 GB128K≈ o3-miniApache 2.0
Codestral 25.01dense 22B~13 GB256K11.1% Aider polyglotnon-production для коммерции

Примечания по конфликтам в данных:

— — — — — — — —

3.2 Tool-calling reliability

Лучшие цифры — у Heyneo benchmark (10 многоступенчатых задач через Ollama):

МодельCode GenTool SelectParams AccAgent Acc
qwen3.6:27b80%84.62%84.62%100%
qwen3.6:35b-a3b70%84.62%84.62%100%
qwen3-coder:30b80%76.92%69.23%80%
deepseek-coder:33b90%84.62%69.23%10%

Webscraft (20 запросов, одинаковый набор тулов):

МодельTool-call reliabilitytok/sVRAM Q4_K_M
gemma4:26b (MoE)~93%~55 t/s~18 GB
qwen2.5-coder:32bnative~35 t/s~20 GB
llama3.3:70bnative~18 t/s~43 GB

Конфликт: Promptquorum ставит Qwen3-Coder 30B выше (96%) чем Heyneo (80% на Agent Accuracy). Разница в тестах: Promptquorum меряет единичный tool call, Heyneo — завершение многоступенчатой задачи.

=== END OF PART 3 ===
Название: Re: Локальные агенты разработки 2026
Отправлено: Dmitronik от Авг. 12, 2026, 12:36
— 4. Конфигурации, кейсы и лучшие практики —

4.1 Reddit r/LocalLLaMA «Best Local Agents Jun 2026» (мегатред)

Самые интересные конфигурации из ответов (прямые цитаты с указанием пользователя):


— — — — — — — —

4.2 Ключевые best practices (с командами)

1. Контекст >= 64K обязателен для OpenCode / Cline / Aider. Ollama по умолчанию ставит 4K, и tool calling ломается.
ollama run qwen3-coder:30b
>>> /set parameter num_ctx 65536
>>> /save qwen3-coder:30b-64k

2. ollama launch <harness>[/b] — однострочник для OpenCode / Claude Code / Codex с локальной Ollama-моделью (Ollama 0.5+).
ollama launch opencode --model qwen3-coder:30b

3. llama.cpp с n-cpu-moe для MoE[/b] — убирает давление VRAM от неактивных experts.
./llama-server \
  -m Qwen3.6-35B-A3B-Q4_K_M.gguf \
  --n-gpu-layers 99 \
  --n-cpu-moe \
  --ctx-size 65536 \
  --flash-attn \
  -ctk q4_0 -ctv q4_0 \
  -t 8

4. Q5_K_M как production floor для tool-call моделей. Q5_K_M ~ sweet spot по качеству/памяти. Ниже Q4 — заметная деградация tool-call.

5. MTP (Multi-Token Prediction). Доступно в Ollama 0.31 на Apple Silicon через MLX, даёт до 90% прироста на Aider polyglot.

6. Sampling parameters (Qwen): Temperature 0.6, TopP 0.95, TopK 20, MinP 0, PresencePenalty 1.5 (thinking mode); Temperature 0.7, TopP 0.8, TopK 20 для non-thinking.

7. Verification gate (практика Mayimbe_999). Перед принятием правки — typecheck + lint + tests + boot + probe. Failure -> ошибка обратно в LLM, повтор.

— — — — — — — —

— 5. Практические сценарии и рекомендации —

5.1 Если у вас 8 GB VRAM (RTX 3060/4060, Mac M2 Air)

5.2 Если у вас 12 GB VRAM (RTX 3060 12GB / 4070)

5.3 Если у вас 16 GB VRAM (RTX 4060 Ti 16, RTX 5070 Ti, 16 GB M-series)

5.4 Если у вас 24 GB VRAM (RTX 3090/4090, M3/M4 Max 32 GB)

5.5 Если у вас 32+ GB VRAM (RTX 5090, M3/M4 Ultra 192 GB)

5.6 Когда локальный НЕ подходит

=== END OF PART 4 ===
Название: Re: Локальные агенты разработки 2026
Отправлено: Dmitronik от Авг. 12, 2026, 12:37
— 6. Сильные и слабые стороны по harness'ам (сводка) —

HarnessСильнейшая сторонаГлавная слабость
OpenCode75+ провайдеров, GitHub Copilot OAuth, TUIНа 22% медленнее Codex, контекст-heuristics спорные
PiToken efficiency, расширяемость, tree-sessionsTUI уступает OpenCode, плохая документация
ClineGovernance, audit trail, sub-agents v3.58+Approval-heavy, утомляет
Roo CodeРежимы (Architect/Code/Ask/Debug)Архивирован май 2026
Kilo CodeВсё-в-одном + 500 моделей + $8M seedVendor risk, форк от форка
AiderGit-first, rollback, лидербордДоки устарели, малые модели на больших diff
OpenHandsSDK, self-host, enterpriseНе inference engine, нужен Ollama
Hermes AgentPersistent memory, cron, 16+ платформSpam в сабреддитах, память распухает
ContinueJetBrains + VS CodeМенее автономный
Codex CLIСамый быстрый benchmarkТолько OpenAI, $20-200/мес

— — — — — — — —

— 7. Сильные и слабые стороны по моделям (сводка) —

МодельСильнейшая сторонаГлавная слабость
Qwen3-Coder-30B-A3B50.3% SWE-bench V, 256K контекст, tool-call ~96%Не ставит рекордов на reasoning
Qwen3-Coder-Next-80B-A3B58.7% SWE-bench V, 44.3% SWE-bench Pro46 GB RAM, не влезет в 24 GB
Qwen3.6-27B77.2% SWE-bench V, 100% Agent Accuracy (Heyneo)22 GB VRAM
GLM-4.773.8% SWE-bench, MIT, длинные agent runs355B — на 24 GB только частично
DeepSeek-R1-distill-32BReasoning-качество, MIT, 94.3% MATH-500Tool-call слабый
MiniMax M2.580.2% SWE-bench V, near-OpusЛокально retired 2026-07-31
Devstral Small 268% SWE-bench V, Apache 2.0, 24B256K контекст (меньше, чем у M2.1 с 1M)
Llama 4 Scout17B active при 109B total, 10M contextНиже frontier на coding
GPT-OSS-20B16 GB VRAM, Apache 2.0Плох на coding (YouTube/Reddit)
Gemma 4 26B A4BБыстрый, native tool-call, 256KНиже Qwen3-Coder на SWE-bench

— — — — — — — —

— 8. Рекомендации (actionable) —

8.1 Стартовая точка (один разработчик, 24 GB VRAM, всё локально)

# 1. Ollama
curl -fsSL https://ollama.com/install.sh | sh
ollama run qwen3-coder:30b

# 2. OpenCode
npm install -g opencode-ai
# создать ~/.config/opencode/opencode.json с провайдером Ollama
opencode

Это даёт Claude Code-уровень TUI, 256K контекст, 50.3% SWE-bench V, Apache 2.0, $0/мес.

8.2 Если важна persistent memory между сессиями

curl -fsSL https://hermes-agent.nousresearch.com/install.sh | bash
unsloth start hermes --model unsloth/Qwen3.6-27B-GGUF --context-length 32768

8.3 Если хотите Pi (минималистичный)

npm install -g @mariozechner/pi-coding-agent
# настроить ~/.pi/agent/models.json с Ollama
pi

8.4 Если хотите командный self-hosted enterprise

docker run -d \
  -p 3000:3000 \
  -e LLM_BASE_URL=http://host.docker.internal:11434/v1 \
  -e LLM_MODEL=devstral-small:24b \
  --name openhands \
  ghcr.io/all-hands-ai/openhands:latest

8.5 Что мониторить в ближайшие месяцы

— — — — — — — —

— 9. Limitations and Open Questions —

Что не удалось верифицировать:

Конфликты в данных:

Временной контекст:

— — — — — — — —

— 10. О исследовании —

Перед публикацией проверено: каждое утверждение имеет ссылку на конкретный источник; конфликты не сглажены — приведены оба значения с пометками; рекомендации даны с конкретными командами (вставь-и-запусти). Языки запросов: EN (~30), CN (~6), RU (~1). Источники: официальные блоги, GitHub, Reddit, HN, YouTube, китайское сообщество.

=== END OF PART 5 ===