Запустити Claude Code з локальною моделлю можна, як і OpenCode, Codex CLI та GitHub Copilot CLI: замість хмарного API вони працюють з моделлю на вашій GPU. Claude Code чекає ендпоінт у форматі Anthropic, який віддають Ollama і vLLM, решта зазвичай OpenAI-сумісний, а модель має викликати інструменти й тримати щонайменше 64 000 токенів контексту. Одному розробникові вистачає станції з RTX PRO 4500 або RTX PRO 5000 на 72 ГБ, невеликій команді однієї чи двох RTX PRO 6000, відділу потрібен сервер із Server Edition.

Розширення для IDE порівняно в огляді альтернатив Copilot на власному сервері, ліцензії моделей у статті про приватного асистента програмування.

Коротко

  • Claude Code підключається через ендпоінт /v1/messages у форматі Anthropic, який мають Ollama і vLLM; OpenCode і Codex CLI працюють з OpenAI-сумісними, Copilot CLI спрямовують змінною COPILOT_PROVIDER_BASE_URL.
  • Anthropic пише, що не підтримує маршрутизацію Claude Code до моделей, відмінних від Claude, через будь-який шлюз; OpenCode (MIT) і Codex CLI (Apache 2.0) мають відкритий код.
  • Ollama просить для агентів від 64 000 токенів контексту, GitHub для Copilot CLI радить від 128K.
  • За нашим розрахунком, одна RTX PRO 6000 на 96 ГБ тримає Qwen3.6-35B-A3B у FP8 з 18 сесіями по 128K, з них 11 при запланованих 50 токенах/с, або щільну Qwen3.8-27B у FP8 із шістьма.
  • Дві такі карти з Qwen3-Coder-Next у парі тримають 29 сесій, а чотири чи вісім Server Edition планують 36 або 72 сесії.

Як термінальні агенти підключаються до локальної моделі

Агент Ліцензія Формат API Локальне підключення
Claude Code умови Anthropic Anthropic Messages ANTHROPIC_BASE_URL
OpenCode MIT OpenAI-сумісний baseURL провайдера
Codex CLI Apache 2.0 OpenAI Responses --oss або власний провайдер
GitHub Copilot CLI ліцензія GitHub OpenAI або Anthropic COPILOT_PROVIDER_BASE_URL

Джерело: поля ліцензій у реєстрі npm і репозиторіях; способи підключення за документацією Anthropic, Ollama, OpenCode, OpenAI Codex і GitHub, прочитано 30.10.2026; версії наводимо лише там, де функція вимагає мінімальної.

Claude Code і Copilot CLI є закритими клієнтами. Для Claude Code у планах Team, Enterprise і API діють Commercial Terms of Service, у Free, Pro і Max діють Consumer Terms, а схема з локальною моделлю працює технічно, як документує Ollama, але поза підтримкою Anthropic. README Copilot CLI називає передумовою активну підписку Copilot, а журнал змін GitHub від 7 квітня 2026 року уточнює, що з власним провайдером моделей вхід у GitHub не потрібен. Умови обох вендорів до впровадження перевіряє ваш юрист.

Налаштування з Ollama: Claude Code, OpenCode, Codex і Copilot CLI

Для одного розробника Ollama дає найкоротший шлях: з версії 0.15 команда ollama launch запускає Claude Code, OpenCode, Codex або Droid з локальною моделлю. Ставте Ollama 0.35.0 або новішу, бо попередні мають вразливість CVE-2026-103663 (обхід шляху в /api/pull), і оновлюйте її регулярно.

  1. Claude Code. За посібником Ollama ANTHROPIC_BASE_URL дорівнює http://localhost:11434, ANTHROPIC_AUTH_TOKEN дорівнює ollama (обов'язковий, але ігнорується), ANTHROPIC_API_KEY лишають порожнім і запускають claude --model з локальною моделлю.
  2. OpenCode. У opencode.json додають провайдера Ollama з пакетом @ai-sdk/openai-compatible і baseURL http://localhost:11434/v1; так само підключаються LM Studio і llama-server.
  3. Codex CLI. codex --oss працює з Ollama або LM Studio, наприклад codex --oss -m gpt-oss:120b; профіль Codex у посібнику Ollama встановлює wire_api на Responses API.
  4. Copilot CLI. COPILOT_PROVIDER_BASE_URL вказує на ендпоінт, COPILOT_MODEL задає модель, COPILOT_OFFLINE=true не пускає CLI до серверів GitHub. Без виклику інструментів чи потокової відповіді в моделі CLI повертає помилку.

Claude Code потребує ще трьох налаштувань. Назви локальної моделі він не знає, тому вважає вікно контексту рівним 200K і стискає розмову лише там; Anthropic радить задати CLAUDE_CODE_MAX_CONTEXT_TOKENS рівним реальному контексту сервера. Фонові задачі йдуть на модель за псевдонімом haiku, субагенти на CLAUDE_CODE_SUBAGENT_MODEL, тож і ANTHROPIC_DEFAULT_HAIKU_MODEL, і цю змінну спрямовують на локальну модель, інакше запити називатимуть моделі Claude, яких сервер не має.

Шар Anthropic в Ollama не підтримує кешування промптів, ендпоінт підрахунку токенів, tool_choice і PDF-блоки. Тримайте Ollama на 127.0.0.1, як за замовчуванням: її контейнерний образ натомість слухає всі інтерфейси.

Claude Code без інтернету: що все одно виходить за межі машини

Локальна модель тримає промпти й код у вашій мережі, але клієнти мають власний трафік. За документацією вендорів:

  • Claude Code за замовчуванням надсилає метрики використання, у яких, за словами Anthropic, немає коду, промптів і шляхів до файлів. CLAUDE_CODE_DISABLE_NONESSENTIAL_TRAFFIC=1 вимикає автооновлення, телеметрію, звіти про помилки, /feedback і примітки до релізів. WebFetch однаково надсилає на api.anthropic.com ім'я хоста кожної адреси (без шляху й вмісту) для перевірки безпеки, доки не задано skipWebFetchPreflight зі значенням true.
  • Copilot CLI в офлайн-режимі вимикає телеметрію і говорить лише з налаштованим провайдером; повна ізоляція, за GitHub, можлива лише з локальним провайдером.
  • Codex CLI за замовчуванням періодично надсилає OpenAI анонімні дані про використання; [analytics] enabled = false це вимикає, [feedback] має окремий перемикач.
  • OpenCode вивантажує розмову на opencode.ai лише за командою /share; "share": "disabled" в opencode.json вимикає це повністю.
  • Ollama пропонує й хмарні моделі; OLLAMA_NO_CLOUD=1 їх прибирає.

Решту ловить брандмауер, що випускає трафік із машин розробників лише до сервера моделей і дзеркала пакетів.

Яку локальну модель обрати для Claude Code та інших агентів

Агент на кожному кроці надсилає всю задачу: інструкції, описи інструментів, прочитані файли й вивід команд, тож модель має правильно викликати інструменти й не збиватися за 50 чи 100 кроків. SWE-bench Verified показує частку розв'язаних реальних задач із репозиторіїв.

Модель Усього / активних Ваги Кеш на 128K SWE-bench Verified
gpt-oss-20b 21B / 3,6B 13,8 ГБ, MXFP4 64K: 1,5 ГіБ 34,0 (таблиця GLM)
GLM-4.7-Flash 30B-A3B MoE 62,5 ГБ, BF16 64K: 3,3 ГіБ 59,2
Qwen3.6-35B-A3B 35B / 3B 37,5 ГБ FP8, 23,4 ГБ NVFP4 2,56 ГіБ 73,4
Qwen3.6-27B 27B, щільна 30,9 ГБ, FP8 8,15 ГіБ 77,2
Qwen3.8-27B 27B, щільна 30,9 ГБ, FP8 8,14 ГіБ немає на картці; Pro 61,7
Qwen3-Coder-Next 80B / 3B 80,4 ГБ, FP8 3,08 ГіБ 70,6
gpt-oss-120b 117B / 5,1B 65,3 ГБ, MXFP4 4,5 ГіБ немає на картці

Джерело: картки моделей і файли на Hugging Face, прочитано 30.10.2026; оцінки за даними розробників, цифра gpt-oss-20b з таблиці на картці GLM-4.7-Flash; кеш на сесію в 16 бітах за нашим розрахунком із config.json, кеш FP8 удвічі зменшує частину, що залежить від токенів; gpt-oss-20b і GLM-4.7-Flash наведено для 64K.

Усі сім моделей мають ліцензію Apache 2.0, крім GLM-4.7-Flash з MIT. Найновіша, Qwen3.8-27B, вийшла в серпні 2026 року. Qwen прогнала SWE-bench Pro в обв'язці Claude Code з контекстом 256K: 61,7 у Qwen3.8-27B проти 53,5 у Qwen3.6-27B; 53,4 для Claude Opus 4.6 Max на тій самій картці є офіційно опублікованим результатом, тож порівняння з ним не рівноцінне.

Швидкість. Модель із сумішшю експертів (MoE) на токен читає лише активні параметри: Qwen3.6-35B-A3B рахує близько 3B із 35B, а щільна Qwen3.6-27B читає всі ваги, тож за нашою арифметикою MoE відповідає в кілька разів швидше, хоч і має нижчі оцінки. Для щільних 27B у 8 бітах на токен читається близько 28 ГБ, що за нашою оцінкою обмежує один запит приблизно 63 токенами/с на Workstation Edition чи Max-Q, 56 на Server Edition і 47 на RTX PRO 5000. Реальна швидкість нижча: тест StorageReview з Qwen3.8-27B у NVFP4 показав від 17 до 22 токенів/с на один запит на перевірених картах.

Кеш на сесію. Qwen3.6, Qwen3.8 і Qwen3-Coder-Next зберігають кеш для кожного токена лише в одному шарі з чотирьох. Тому сесія на 128K у MoE-моделях займає від 2,6 до 3,1 ГіБ, а в старішої Qwen3-Coder-30B-A3B 12 ГіБ.

Режим міркування. Qwen3.6 і Qwen3.8 за замовчуванням міркують, а це додає вихідних токенів на кожному кроці; Qwen3-Coder-Next працює без міркування. Картка FP8 для Qwen3.6-35B-A3B радить щонайменше 128K контексту, тому ми й рахуємо на 128K. Великим моделям на кшталт Kimi K2.7-Code потрібен сервер на вісім карт, описаний у статті про Kimi K2.7-Code на восьми RTX PRO 6000.

Яка GPU потрібна одному розробникові, команді й відділу

Наше правило: 90 % пам'яті, яку показує драйвер, мінус 3 ГіБ на карту і мінус ваги. Це 25,7 ГіБ на RTX PRO 4500, 61,5 ГіБ на RTX PRO 5000 з 72 ГБ і 83,0 ГіБ на RTX PRO 6000 будь-якої версії. Друге обмеження дає швидкість: кожен крок декодування читає активні ваги й кеш усіх сесій, тож рахуємо ще, скільки сесій зберігають 50 токенів/с (для MoE це верхня оцінка). Рахуємо одну сесію, що генерує, на кожного розробника в годину пік.

Конфігурація Модель 128K у пам'яті Заплановано Для кого
1 × RTX PRO 4500, 32 ГБ Qwen3.6-35B-A3B NVFP4 1 (2) 1 (2) один розробник
1 × RTX PRO 5000, 72 ГБ Qwen3.6-35B-A3B FP8 10 (20) 8 (16) від двох до восьми
1 або 2 × RTX PRO 6000 Workstation Edition чи Max-Q 35B-A3B на одній, пара Coder-Next 18 (36), 29 (57) 11 (23), 20 (40) команда від 10 до 20
4 або 8 × RTX PRO 6000 Server Edition Coder-Next, дві або чотири пари 58 (114), 116 (228) 36 (70), 72 (140) приблизно від 36 до 140

Джерело: сесії по 128K за нашим правилом, 16-бітний кеш (у дужках FP8); «заплановано» означає менше з обмежень пам'яті й межі 50 токенів/с, верхня оцінка; пропускна здатність за NVIDIA: 896 ГБ/с (RTX PRO 4500), 1 344 ГБ/с (RTX PRO 5000), 1 792 ГБ/с (Workstation Edition і Max-Q), 1 597 ГБ/с (Server Edition); активні ваги близько 3 ГБ на токен; серверні рядки за розрахунком сервера агентів програмування.

Один розробник. RTX PRO 4500 на 32 ГБ тримає збірку Qwen3.6-35B-A3B у NVFP4 від NVIDIA з однією сесією на 128K, з кешем FP8 із двома. GLM-4.7-Flash на 64 000 токенів, за даними Ollama, займає близько 23 ГБ і теж вміщується. Карта на 24 ГБ (RTX PRO 4000) лишає 18,5 ГіБ, досить для gpt-oss-20b із трьома сесіями по 64K, але за таблицею GLM ця модель розв'язує лише близько третини задач SWE-bench Verified. RTX PRO 5000 на 72 ГБ вміщує й щільну 27B у FP8 з 4 (7) сесіями, за нашою оцінкою з межею близько 47 токенів/с на запит.

Команда на одній станції. RTX PRO 6000 Workstation Edition або Max-Q на 96 ГБ веде Qwen3.6-35B-A3B у FP8 приблизно для одинадцяти розробників. Щільна Qwen3.8-27B у FP8 вміщується на ній із 6 (13) сесіями по 128K і межею близько 63 токенів/с на запит (1 792 ГБ/с поділити на 28,4 ГБ). Qwen3-Coder-Next на одній карті має дві сесії (п'ять із кешем FP8), на двох як пара TP=2 близько 20 запланованих. Workstation Edition споживає до 600 Вт, Max-Q 300 Вт; NVIDIA допускає до чотирьох Max-Q у станції, але три чи чотири ставлять лише в корпус під них із сильним спрямованим потоком повітря.

Відділ. Понад 20 розробників обслуговує стійковий сервер із RTX PRO 6000 Server Edition: дві пари на чотирьох картах дають 36 запланованих сесій, чотири пари на восьми 72. Живлення й варіант з H200 NVL описано в статті про сервер для агентів програмування. Конфігурацію під вашу кількість розробників і потрібний контекст ETE рахує від реального навантаження.

Від станції до спільного сервера: vLLM, кеш префіксів і ключі

На спільному сервері замість Ollama ставлять vLLM. Його стабільна документація від 8 жовтня 2026 року містить Anthropic Messages API (/v1/messages і /v1/messages/count_tokens) поруч із Chat Completions і Responses, тож один рушій обслуговує всіх чотирьох клієнтів. Запускайте його з парсером інструментів із картки моделі, наприклад --enable-auto-tool-choice з --tool-call-parser qwen3_coder для Qwen і glm47 для GLM-4.7-Flash, і задайте --max-model-len рівним розрахованому контексту.

Кеш префіксів. Агент щоразу надсилає той самий довгий початок, і vLLM бере його з кешу. Claude Code додає на початок системного промпту блок атрибуції з версією й відбитком розмови, з версії 2.1.181 сталий у межах розмови; CLAUDE_CODE_ATTRIBUTION_HEADER=0 його прибирає. За нашим прочитанням, між розмовами промпт перевикористовується лише без цього блоку, тож перевірте обидва варіанти.

Ключі й журнали. --api-key у vLLM захищає лише шляхи /v1, /v2, /inference і /cohere і користувачами не керує, тож ключ на розробника видає LLM-шлюз, наприклад проксі LiteLLM, який приймає формат Anthropic /v1/messages. Керовані налаштування Claude Code закріплюють шлюз: з allowedProviders зі значенням ["customEndpoint"] і адресою шлюзу в ANTHROPIC_BASE_URL Claude Code 2.1.285 і новіші відмовляються від сесій, спрямованих деінде.

Межа контексту. Нижчу межу сервера Claude Code сам не бачить, тож розповсюдьте CLAUDE_CODE_MAX_CONTEXT_TOKENS через керовані налаштування, щоб клієнт стискав розмову раніше, ніж сервер відхилить запит. Сервер моделей і шлюз за потреби налаштовують інженери Vixen.UNO.

Часті питання

Чи може Claude Code працювати з локальною моделлю?

Технічно так: Ollama і vLLM віддають формат Anthropic /v1/messages, тож досить вказати сервер в ANTHROPIC_BASE_URL і запустити Claude Code з назвою локальної моделі. Anthropic таку схему не підтримує, а її умови на клієнт діють і далі.

Яка локальна модель підходить для Claude Code?

Найновіша щільна модель на одну карту, Qwen3.8-27B (Apache 2.0), має в обв'язці Claude Code 61,7 на SWE-bench Pro. На SWE-bench Verified лідирують Qwen3.6-27B (77,2), Qwen3.6-35B-A3B (73,4) і Qwen3-Coder-Next (70,6) за даними розробників. Для багатьох паралельних агентів ми радимо почати зі швидшої Qwen3.6-35B-A3B і перевірити її на власних репозиторіях.

Скільки відеопам'яті потрібно для Claude Code з локальною моделлю?

За нашим правилом, для одного розробника з контекстом 128K 32 ГБ вміщують Qwen3.6-35B-A3B у 4 бітах з однією сесією, 72 ГБ у FP8 з десятьма, 96 ГБ з вісімнадцятьма.

Чи працює GitHub Copilot CLI офлайн із локальною моделлю?

Так: з COPILOT_PROVIDER_BASE_URL на Ollama чи vLLM і COPILOT_OFFLINE=true CLI не звертається до серверів GitHub і вимикає телеметрію. Модель має підтримувати виклик інструментів і потокову відповідь, а контексту GitHub радить від 128K токенів.

Чи можна запустити Claude Code повністю без інтернету?

Частково. Промпти й код ідуть лише на ваш сервер, але клієнт надсилає метрики, доки не задано CLAUDE_CODE_DISABLE_NONESSENTIAL_TRAFFIC, і перевіряє імена хостів у WebFetch, доки skipWebFetchPreflight не дорівнює true.

Чи працюють OpenCode і Codex CLI з Ollama?

Так. OpenCode підключає Ollama, LM Studio чи llama-server як провайдера через @ai-sdk/openai-compatible з baseURL, а Codex CLI працює з Ollama командою codex --oss.

Що з цього є в ETE

  • NVIDIA RTX PRO 4500 Blackwell 32 ГБ: станція для одного розробника з Qwen3.6-35B-A3B у NVFP4.
  • ETE AI Workstation: одна RTX PRO 6000 на 96 ГБ для команди до одинадцяти людей, з розширенням до двох Max-Q під Qwen3-Coder-Next.
  • ETE AI Server RTX PRO: чотири RTX PRO 6000 Server Edition: 36 запланованих сесій Qwen3-Coder-Next.
  • ETE AI XL43: вісім RTX PRO 6000 Server Edition: 72 заплановані сесії Qwen3-Coder-Next.

Потрібна станція чи сервер під агентів програмування?

Напишіть, скільки розробників працюватимуть з агентами, якими клієнтами вони користуються і який контекст потрібен. ETE порахує конфігурацію, а за потреби інженери Vixen.UNO налаштують Ollama або vLLM, модель і шлюз.

Обговорити задачу

Автор: Інженер ETE