Локальные LLM
Запуск моделей внутри контролируемой инфраструктуры с большим запасом общей памяти.
Компактная AI-станция на AMD Ryzen AI Max+ PRO 395 с 128 ГБ LPDDR5x-8000 и Radeon 8060S. Сильная сторона платформы — большой общий пул памяти для локальных LLM, RAG и AI-разработки без перехода сразу к серверу с дискретными ускорителями.
ZKMAGIC ZKH1 · актуальная конфигурация подтверждается перед заказом
ZKH1 интересна не как «ещё один mini PC», а как компактный Strix Halo-контур. 128 ГБ общей памяти дают существенно больше пространства для локальных моделей, контекста и RAG, чем типичные рабочие станции с 16–24 ГБ видеопамяти. При этом итоговая скорость всё равно зависит от runtime, квантизации, драйвера и режима мощности.
Размер модели, квантизация и длина контекста определяют фактическое потребление памяти и скорость генерации.
На платформе Ryzen AI Max+ часть общей памяти можно выделять под GPU; это не отдельная HBM/GDDR-память и сравнивать только по гигабайтам некорректно.
Для рабочих AI-сервисов важны версия драйвера, backend и проверенный программный профиль, а не только спецификация APU.
При высокой параллельности или нескольких постоянных сервисах компактная станция перестаёт быть заменой серверной архитектуре.
Не список модных функций, а рабочие контуры, которые проектируются под данные, нагрузку и выбранный программный стек.
Запуск моделей внутри контролируемой инфраструктуры с большим запасом общей памяти.
Корпоративный поиск и ответы по внутренним материалам без обязательной передачи корпуса документов в публичный AI API.
Локальный модельный слой для агентных сценариев, инструментов и интеграций; конкретный стек проектируется под процесс.
Рабочая платформа для прототипирования inference, API и прикладных AI-сервисов на Windows или Linux.
Radeon 8060S и большой пул памяти расширяют класс локальных мультимодальных и генеративных задач при совместимом backend.
Можно проверить модели, данные, качество RAG и реальную нагрузку до закупки более крупной GPU-инфраструктуры.
В целевой конфигурации ZKH1 поставщик заявляет 128 ГБ LPDDR5x-8000. Для Ryzen AI Max+ 395 AMD документирует возможность выделить до 96 ГБ Variable Graphics Memory. Это делает платформу особенно интересной там, где ограничением становится именно объём памяти.
В ZKH1 заявлена платформа Ryzen AI Max+ PRO 395. Ключевой эффект для локального AI даёт сочетание 16 Zen 5 ядер, Radeon 8060S и 128 ГБ LPDDR5x.
Там, где ревизия или комплектация не подтверждены, страница показывает это прямо — вместо публикации красивой, но ненадёжной цифры.
Достаточно 2–3 рабочих сценариев, числа пользователей и требований к локальности. После этого можно определить класс памяти, модельный слой и формат поставки.
Эти компоненты не выдаются за заводскую комплектацию ZKH1: они показывают, какие слои Neuroserver может настроить как отдельную часть проекта.
AMD официально включает Ryzen AI Max+ PRO 395 в поддерживаемые Ryzen APU; конкретный OS-профиль проверяется перед внедрением.
Рабочий ML-стек через поддерживаемый ROCm-профиль; версии фиксируются под проект.
Практичный локальный inference-путь для больших моделей; AMD публикует отдельные инструкции для Ryzen AI Max+.
Локальный пользовательский интерфейс для моделей — как один из вариантов рабочего контура.
Индекс, embeddings, vector storage и привязка ответов к корпоративным источникам.
Подключение внутренних сервисов и приложений к локальному inference.
Настройка графической памяти и драйвера под выбранный runtime и объём моделей.
Права, журналы и наблюдение за рабочим AI-контуром.
Сравниваем классы решений и режимы эксплуатации, а не подменяем подбор одной универсальной таблицей.
| Критерий | ZKH1 / Ryzen AI Max+ | Рабочая станция с dGPU | GPU-сервер |
|---|---|---|---|
| Память для AI | 128 ГБ unified; платформа AMD допускает до 96 ГБ VGM | Ограничена объёмом VRAM конкретной видеокарты | Высокая, масштабируется выбором ускорителей |
| Форм-фактор | Компактный локальный узел на столе или в офисе | Обычно крупнее, но широкий выбор GPU | Серверная стойка / отдельная инфраструктура |
| Экосистема | ROCm / Vulkan / локальные runtimes; требует аккуратного профиля ПО | CUDA или ROCm — зависит от GPU | Максимальная зрелость для серверных AI-стеков |
| Параллельность | Персональный, командный или пилотный контур | Зависит от GPU и конфигурации | Лучший вариант для нескольких постоянных сервисов и высокой нагрузки |
| Когда выбирать | Когда важны большой пул памяти, компактность и локальная работа | Когда критичны конкретные dGPU-инструменты или CUDA | Когда приоритет — throughput, масштабирование и серверная эксплуатация |
Отсюда пользователь может перейти в сервис или отраслевой контекст — без дублирования длинных маркетинговых текстов.
Аппаратная станция сама по себе не создаёт compliance. Важны маршрут данных, программные зависимости, доступы и правила эксплуатации.
Архитектура может быть построена так, чтобы inference выполнялся внутри инфраструктуры клиента.
RAG-контур проектируется вокруг согласованных документов, индексов и правил обновления.
Роли и интеграции определяются отдельно от аппаратной станции.
Путь начинается с нагрузки и заканчивается подтверждённой ревизией и составом поставки.
Фиксируем модели, RAG, документы, пользователей и требования к локальности.
Подтверждаем APU, 128 ГБ памяти, SSD, сетевые интерфейсы, BIOS и доступные режимы VGM у конкретной партии.
Определяем Windows/Linux, runtime, драйвер и набор AI-сервисов под задачу.
Фиксируем спецификацию, поставляем станцию и при необходимости настраиваем модели, RAG и интеграции.
FAQ отвечает на реальные вопросы выбора и честно показывает, какие данные ещё должны быть подтверждены.
Опишите модели, RAG-сценарий, число пользователей и требования к локальности. Мы подтвердим актуальную ревизию ZKH1, интерфейсы, SSD, BIOS/VGM и состав программного профиля перед коммерческим предложением.
Характеристики платформы сверены с AMD; параметры конкретной ZKH1, которые зависят от партии и комплектации, фиксируются в спецификации.