digestors.

Понятно, практично, по делу

Moonshot AI выложила в открытый доступ веса модели Kimi K3 с контекстом 1 млн токенов

South China Morning Post, Moonshot AI опубликовал веса Kimi K3 — крупнейшей на текущий момент модели с открытыми параметрами: 2,8 трлн весов, контекст 1 млн токенов.

Moonshot AI выложила в открытый доступ веса модели Kimi K3 с контекстом 1 млн токенов

Для локальной суммаризации больших текстов это меняет экономику задачи: длинные документы уходят с облака на собственные серверы, а разработчики получают альтернативу закрытым коммерческим API.

Состав релиза

  • Опубликованы собственно веса — параметры, кодирующие поведение модели.
  • Открыта инфраструктура: инструменты стабилизации инференса и снижения деградации качества на длинных входах.
  • Лицензия допускает использование, копирование, модификацию, распространение. В том числе для разработчиков за пределами КНР.
  • Заявленный контекст 1 млн токенов. Достаточно для подачи десятков PDF или суточного среза новостных лент без потери связности.
  • SCMP отдельно подчёркивает: это самый крупный релиз модели с открытыми весами на сегодня.

Аппаратная совместимость

  • Облачное подразделение Alibaba подтвердило совместимость супернода на собственных чипах Zhenwu M890 с Kimi K3.
  • Платформа на Huawei Ascend 910C завершила адаптацию под модель.
  • Moonshot выходит за пределы экосистемы Nvidia. Два независимых канала железа под одну модель — структурное снижение зависимости от одного поставщика и параллельный импульс для китайского кремниевого стека.

Что проверить перед внедрением

  • Источник и хеши весов. Сверять с официальным релизом и зеркалами Moonshot, игнорировать произвольные форки. Логика та же, что при проверке подлинности сертификата соответствия в реестре ФСА: первоисточник и его подтверждение в реестре важнее любой перепечатки.
  • Требования к памяти. 2,8 трлн параметров в FP16 — порядок 5,6 ТБ только под веса. На практике обязательны квантизация и offloading; иначе инференс на потребительском и даже серверном железе не запустится.
  • Лицензионные ограничения. Открытые веса — не открытая модель во всех смыслах. Скрытые условия по коммерческому применению, перераспространению и использованию в производных продуктах требуют отдельного прочтения текста лицензии.
  • Качество суммаризации. Длинный контекст не равен точной выжимке. Перед встраиванием в новостной дайджест — тест на собственных корпусах длинных текстов со сверкой с эталоном и оценкой медианного отклонения по ключевым фактам.

Вердикт: Kimi K3 сдвигает планку локальной суммаризации, но без верификации источника весов, оценки железа и юридических условий внедрение преждевременно.