Конкуренция с OpenAI и Anthropic. DeepSeek открыла доступ к инструменту для удешевления работы ИИ
Китайская компания DeepSeek выпустила в открытый доступ DeepInfer — инструмент для более эффективного запуска моделей искусственного интеллекта. Он может снизить затраты бизнеса на вычисления и усилить конкуренцию с OpenAI и Anthropic.
Об этом пишет издание Gizmodo.
DeepInfer доступен на GitHub и в настоящее время предназначен для работы с DeepSeek V4.1 Flash — более быстрой, эффективной и экономичной версией ИИ-модели компании. В DeepSeek заявили, что открыли доступ к своим производственным наработкам, чтобы помочь разработчикам сократить вычислительные затраты, энергопотребление и стоимость использования искусственного интеллекта. В будущем компания планирует добавлять в этот инструмент другие модели по мере их выпуска.
DeepInfer оптимизирует так называемый инференс — процесс, в ходе которого обученная модель обрабатывает запрос пользователя и генерирует ответ. Этот этап требует значительных вычислительных ресурсов, особенно когда ИИ выполняет сложные задачи, состоящие из множества последовательных шагов.
Для компаний расходы на работу моделей становятся всё более важным вопросом. Например, консалтинговая компания Accenture, по данным издания 404 Media, ограничила ежемесячные расходы многих сотрудников на Claude от Anthropic суммой в 29 долларов.
Дополнительное давление на американских разработчиков оказывают китайские модели с открытым исходным кодом, которые могут обходиться значительно дешевле в обучении и использовании. По данным OpenRouter, миллион входных токенов модели DeepSeek V4.1 Flash стоит 0,035 доллара, а миллион выходных — 0,12 доллара. Для сравнения: у GPT-6 Astra от OpenAI цена составляет 10 и 50 долларов соответственно.
Токены — это единицы текста, которые модель обрабатывает в процессе работы. Входные токены соответствуют полученным данным (в частности, запросу пользователя), а выходные — сгенерированному ответу. Поэтому разница в тарифах может существенно влиять на расходы компаний, активно использующих ИИ.
DeepInfer использует, в частности, спекулятивное декодирование — метод, помогающий ускорить генерацию ответов. Это может дополнительно снизить затраты на обработку запросов и сделать открытые модели DeepSeek более привлекательными для бизнеса.
В то же время распространение китайских инструментов на базе искусственного интеллекта вызывает обеспокоенность у властей США. Администрация президента США Дональда Трампа ввела ограничения на использование инструментов DeepSeek в некоторых федеральных ведомствах, в частности в Государственном департаменте. Частным компаниям и организациям эти правила не запрещают пользоваться такими моделями.