TypeSafe AI представил модель Jev со стоимостью обработки миллиона токенов всего 4,2 цента

Стартап TypeSafe AI, основанный бывшим исследователем OpenAI Диого Алмейдой, 25 сентября представил модель искусственного интеллекта Jev, ориентированную на выполнение конкретных программных задач и, по заявлению компании, может обеспечить существенное сокращение затрат по сравнению с использованием традиционных крупных языковых моделей.

Как сообщает Financial Times, разработка уже привлекла внимание инвесторов, предложивших финансирование по оценке TypeSafe AI в $10 млрд и более. Основатель стартапа подтвердил интерес к компании, однако не раскрыл подробности возможного нового инвестиционного раунда.

В отличие от универсальных ИИ-моделей, предназначенных для генерации текстов, изображений и выполнения широкого круга задач, Jev разработана для работы в корпоративных информационных системах, где необходимо быстро классифицировать информацию или принимать решения из предопределенного набора вариантов.

В частности, модель может анализировать входящие запросы, определять уровень риска, распределять обращения клиентов между соответствующими отделами компании, а также помогать решать, следует ли одобрить, заблокировать или передать на дополнительную проверку определенную операцию.

Такой подход позволяет использовать искусственный интеллект в процессах, для которых не нужны развернутые текстовые ответы, но важны скорость обработки большого количества запросов и низкая стоимость каждой операции.

Обработка миллиона токенов стоит 4,2 цента

По данным TypeSafe AI, стоимость обработки одного миллиона токенов с помощью Jev составляет примерно $0,042, тогда как использование традиционных больших языковых моделей для сравнимых объемов обработки может стоить несколько долларов.

Разработчики объясняют разницу в цене архитектурой Jev. Вместо генерации длинных последовательностей текста или сложных соображений, модель быстро выбирает ответ из определенного набора вариантов, что позволяет сократить объем необходимых вычислений.

По утверждению компании, благодаря такому подходу Jev может быть до 100 раз дешевле и быстрее традиционных больших языковых моделей. Приведенные показатели являются заявлениями разработчика: полную информацию об обучении модели TypeSafe AI не обнародовала, а ее производительность в различных корпоративных сценариях требует отдельного сравнения.

Инвесторы готовы оценить TypeSafe AI не менее $10 млрд

Презентация Jev состоялась на фоне растущего спроса на специализированные инструменты искусственного интеллекта, способные автоматизировать большие объемы повторяющихся операций без использования дорогих универсальных моделей.

После запуска разработки TypeSafe AI получила предложения от инвесторов по новому финансированию, предполагающих оценку стартапа на уровне $10 млрд и выше. Диого Алмейда подтвердил Financial Times наличие такого интереса, однако не сообщил, согласилась ли компания на предложенные условия и какой объем капитала планирует привлечь.

Потенциальное преимущество Jev состоит в возможности интегрировать его непосредственно во внутренние программные системы предприятий, используя для классификации данных, маршрутизации обращений и проверки операций. Для компаний, ежедневно обрабатывающих миллионы однотипных запросов, снижение стоимости каждой сделки может иметь существенное значение.

В то же время, специализация Jev ограничивает сферу ее применения. Модель не предназначена для замены универсальных чатов в задачах, требующих создания текстового или визуального контента, а ее экономические преимущества будут зависеть от характера конкретных бизнес-процессов.