Kimi K3.1: модель від Moonshot AI готова до релізу?

Компанія Moonshot AI натякає на швидкий випуск своєї нової моделі Kimi K3.1. Це підтверджується коротким відеороликом, де на старому комп’ютері відображається назва Kimi Code з позначкою “Model: Kimi K3.1”. Хоча точна дата випуску поки не оголошена, поява моделі в розробницьких спільнотах та оновлення в програмних репозиторіях свідчать про її наближення.

Попередні ознаки та розробка

Перші натяки на існування Kimi K3.1 з’явилися ще у вересні, коли розробники помітили згадку “kimi-k3-1” у фоновому реєстрі моделей API-платформи Moonshot AI. Це вказувало на можливість виклику нової моделі через API. Тоді ж на відкритій платформі Kimi з’явилися попередні анонси моделей K3.1 або K3 11111, які підтримували контекстне вікно до 1 мільйона токенів.

19 жовтня в репозиторії SGLang було зафіксовано запис про “Підтримку Kimi-K3.1 для кодувальника чату K3”. Цей коміт додав адаптацію кодувальника чату для K3.1 до експериментального компонента маршрутизації, включно зі 107 тестовими випадками. Аналіз цього коміту свідчить, що K3.1, на відміну від попередньої версії K3, яка мала три режими обробки (low, high, max), додасть четвертий, проміжний режим “medium”. Режим “max” залишається значенням за замовчуванням.

Файли токенізатора K3.1 ідентичні файлам K3 на рівні байтів і використовують ті самі 16 спеціальних токенів. Нові тести охоплюють форматування діалогів, виклики інструментів та вхідні дані зображень, що свідчить про перевірку сумісності кодування, а не про тестування продуктивності.

Подальший аналіз від orcarouter підтвердив, що коміт безпосередньо посилається на “moonshotai / Kimi-K3.1” та вказує конкретний номер ревізії репозиторію моделі. Це означає, що ідентифікована сутність моделі K3.1 вже існує на платформі Hugging Face, хоча й не була офіційно оприлюднена.

Покращення та інтеграції

Після випуску Kimi K у липні, він підтримував 1 мільйон токенів контексту, а розробники заявляли про додавання режимів “low” та “high” на додаток до “max”. Якщо функціональність, відображена в SGLang, відповідає кінцевому продукту, K3.1 розширить діапазон інтенсивності висновків з трьох до чотирьох режимів, вставивши середній рівень між “low” та “high”.

Після запуску K3, GitHub Copilot інтегрував його 6 серпня. 15 жовтня Amazon AWS AI Programming Assistant Kiro оголосив про інтеграцію з K3, зробивши Kimi першою відкритою моделлю, яка бере участь у глобальному розподілі прибутків на AWS Bedrock. Використання інтерфейсу Kimi Code для попереднього перегляду K3.1 підкреслює, що програмування та робочі процеси розробників залишаються одним із ключових наративів цього оновлення.

Окрім режимів інтенсивності висновків, попередні дані вказують на потенційні нові функції, такі як “make3d” для створення 3D-контенту та “OK_COMPUTER_SWARM” для позначки багатоагентної співпраці. Однак ці позначки ще не були офіційно підтверджені Moonshot AI.

Що далі?

На момент публікації статті, Moonshot AI не надала офіційної інформації про дату випуску Kimi K3.1, її параметри або ціну. Однак, численні технічні ознаки та попередні відео вказують на те, що модель готова до запуску, і розробники з нетерпінням чекають на її офіційне представлення.

Джерело: https://www.ithome.com/1/017/098.htm