Промпти для ШІ можуть працювати проти вас: глава Microsoft зробив гучну заяву

Пастка комерційного ШІ: як бізнес власноруч навчає майбутніх конкурентів

За словами Наделли, головна небезпека криється у "цифровому вихлопі" - промптах, які пишуть ІТ-фахівці, діях автономних агентів та, найголовніше, виправленнях, які люди вносять, коли модель помиляється.

Кожне таке коригування перетворюється на готове інституційне ноу-хау, яке закриті ШІ-лабораторії збирають та акумулюють у своїх системах.

Основні загрози для бізнесу за умов поточного статус-кво:

Розробники моделей отримують знання про унікальні нюанси роботи чужого бізнесу, які жоден конкурент ніколи не зміг би купити на ринку;

Автори закритих систем безкоштовно збирають дані з усього інтернету для навчання, але встановлюють суворі обмеження на "дистиляцію" - практику використання їхніх відповідей для навчання інших моделей;

Компанії, що створюють ШІ, залишають за собою право вчитися на взаємодії з клієнтами, отримуючи потенційну можливість стати прямими конкурентами для своїх же клієнтів.

"Вживаючи інтелект, ви створюєте інтелект. І те, що ви створюєте, має належати лише вам", - наголошує керівник Microsoft.

Як рішення Наделла пропонує компаніям зберігати повне право власності на свої промпти та відгуки, створюючи власні закриті середовища навчання у хмарі, а також впроваджувати інструменти оркестрації (шлюзи), які дозволяють легко перемикатися між різними постачальниками технологій.

Нова хвиля: корпоративний сектор масово переходить на open source

Попередження від голови Microsoft підтверджує масштабний тренд, який уже фіксують аналітики ІТ-ринку.

Великі корпорації, що поекспериментували із закритими комерційними системами, починають масово розгортати безкоштовні моделі з відкритим кодом на власних серверах всередині компаній (on-premise).

За даними розробника безпекового софту Solo.io, такі гіганти як T-Mobile, ADP та SAP дедалі частіше віддають перевагу повному контролю над залізом та даними, оскільки сучасний open source виконує до 90% функцій великих комерційних моделей, однак коштує значно дешевше.

Зсув наочно демонструє статистика великих розробницьких платформ. Компанії Vercel та OpenRouter зафіксували стрімкий стрибок трафіку у напрямку відкритих нейромереж.

Зокрема, минулого місяця на відкриті моделі припало вже 29% усього обсягу даних, що пройшли через мережеві шлюзи Vercel.

Враховуючи, що навіть Microsoft - головний інвестор OpenAI та Anthropic - закликає бізнес до обережності, ринок корпоративного ШІ неминуче рухається в бік децентралізації та захисту комерційної таємниці.