Moonshot ограничила кибервозможности модели Kimi K3.1 Pro — The Express Tribune
Китайский стартап Moonshot AI заявил, что ограничил возможности своей новой модели Kimi K3.1 Pro для наступательных кибератак. Компания сообщила, что удалила из набора обучающих данных и сред обучения с подкреплением материалы, связанные с киберсферой, сохранив при этом общие навыки программирования.
Модель с открытыми весами
Как сообщает The Express Tribune, Moonshot представила Kimi K3.1 Pro как свою самую мощную модель с открытыми весами в классе с 3 триллионами параметров. Компания планирует опубликовать веса модели — файлы, которые позволят сторонним разработчикам запускать и модифицировать ее на собственных системах, — до 4 ноября.
В Moonshot заявили, что не стремятся выпускать открытые веса моделей, которые расширяли бы границы кибервозможностей. Компания также считает, что модели с открытыми весами могут помогать организациям проверять и защищать собственное программное обеспечение, в том числе устаревшие системы, которым уделяется мало внимания.
Больше актуальных новостей — в Telegram-канале UA.News Telegram.
Результаты внутреннего теста
По данным Moonshot, K3.1 Pro набрала 81,0% во внутреннем кибербенчмарке, тогда как аналогичная версия без мер по снижению рисков получила 90,5%. Тест предусматривал поиск и использование уязвимостей программного обеспечения в контролируемой среде.
В компании отметили, что фильтрация киберданных снизила наступательные возможности модели, хотя она все равно превзошла предыдущую версию. Эти результаты независимо не проверялись. Модель имеет контекстное окно на 1 млн токенов, что позволяет ей обрабатывать большие объемы текста. Moonshot также представила более быструю версию K3.1 Pro Highspeed, которая, по заявлению компании, работает в два-три раза быстрее стандартной модели.
