DeepSeek открыла код DeepInfer для ускорения работы ИИ и сокращения затрат

DeepSeek открыла доступ к программному обеспечению DeepInfer, оптимизирующему процесс запуска и работы моделей искусственного интеллекта. Как сообщает Bloomberg, инструмент призван повысить производительность ИИ без пропорционального увеличения затрат на вычислительную инфраструктуру.

В настоящее время DeepInfer поддерживает модель DeepSeek V4.1-Flash. В будущем компания планирует расширить совместимость ПО с новыми моделями собственной разработки.

Как DeepInfer сокращает расходы на ИИ

Программное обеспечение совмещает несколько способов оптимизации вычислений, в том числе распределение задач меж различными аппаратными ресурсами. Это позволяет увеличивать количество результатов, генерируемых моделью за единицу времени, и более эффективно использовать производительность чипов.

Большинство применяемых технологических подходов уже известны на рынке искусственного интеллекта, однако DeepSeek адаптировала их к архитектуре собственных моделей.

В то же время, заявленная эффективность DeepInfer пока не получила независимого подтверждения. Для практического использования инструмента по-прежнему необходимы соответствующая вычислительная инфраструктура и технические знания.

Открытый код для сторонних разработчиков

Публикация исходного кода позволяет другим компаниям исследовать технологические решения DeepSeek и адаптировать отдельные компоненты для систем искусственного интеллекта.

В то же время DeepInfer, прежде всего, оптимизирован для моделей китайской компании, поэтому его использование с другими ИИ-системами может потребовать дополнительных технических изменений.

Выпуск инструмента производится на фоне сообщений о подготовке DeepSeek к привлечению нового финансирования. По информации СМИ, компания близится к завершению инвестиционного раунда в объеме не менее 80 млрд юаней, или более $12 млрд. Изначально планировалось привлечь около 50 млрд юаней, однако интерес инвесторов превысил ожидания.