Бізнес не може спрогнозувати витрати на ШІ: дешевші моделі не завжди вигідніші
На початку року багато компаній почали вимагати від розробників максимально активно використовувати ШІ. Це породило термін tokenmaxxing і навіть призвело до ситуацій, коли працівники давали ШІ безглузді завдання лише для того, щоб виконати встановлену норму. Однак після перших рахунків за використання ШІ компанії почали переходити до більш обережного та продуманого підходу. Та навіть це не дозволяє їм точно спрогнозувати, скільки коштуватиме використання нової технології.
Як повідомляє The Wall Street Journal, нещодавнє дослідження показало, що лише 11% з близько 400 бізнесів змогли точно розрахувати бюджет на штучний інтелект. 13% помилилися у своїх розрахунках майже на 50%. Ще 39% помилилися на 11-25%, а 35% - на 26-50%.
Неспроможність точно передбачити витрати на нову технологію пов'язана з тим, що штучний інтелект нагадує роботу реальних людей, а отже, може бути непередбачуваним, припуститися помилок або ж повністю провалювати поставлене завдання.
На додачу до цього, експеримент, проведений дослідниками зі Стенфордського університету, Університету Карнегі-Меллона та Каліфорнійського університету в Берклі, а також командою Microsoft Research, показав, що інколи дешевші моделі можуть виявитися дорожчими за свої потужніші альтернативи. Це наочно продемонстрував тест, де різні моделі проганяли через 6800 завдань з математики, програмування, природничих наук тощо. У 32% випадків рахунок за дешевші моделі виявлявся більшим, ніж за дорожчі.
"Практичний висновок очевидний. Не слід використовувати лише ціну, щоб зробити висновок про те, яка модель насправді дешевша", - каже Лінцзяо Чен, один із дослідників.
В одному з тестів порівняли дві моделі Google - дорожчу Gemini 3.1 Pro та дешевшу Gemini 3 Flash, вказавши їм проаналізувати кадр з відео на YouTube. У результаті Pro закінчила завдання після 85 кроків, які обійшлися в $1, тоді як Flash виконала майже 1000 дій, споживши токени на $14, так і не досягнувши мети.
"Певні коливання на рівні промптів є неминучими для штучного інтелекту, і наші тестування показують, що вони в середньому нівелюються при великому обсязі різноманітних реальних робочих навантажень", - сказав представник Google. "Загальні витрати на виконання конкретного завдання залежать від багатьох факторів, що може ускладнювати точне прогнозування розвитку нових технологій."