Google випустила нову ШІ-модель яка працює прямо на смартфоні

Google розробила новий відкритий штучний інтелект під назвою EmbeddingGemma 2 який може працювати прямо на вашому телефоні та інших пристроях. Відмінною рисою нового програмного забезпечення є можливість обробляти не тільки текст а й код, зображення, аудіо та відео так само. Всі ці типи даних можна об’єднати в одне місце для пошуку інформації. Про це повідомляє blog.google.
EmbeddingGemma 2 складається з 740 мільйонів параметрів і був створений на основі архітектури Gemma 4. Модель має модульний дизайн що означає що 270 мільйонів параметрів достатньо для обробки текстових даних. Крім того ви можете додати окремі модулі для зображень та аудіо якщо вони потрібні. Таким чином розробники отримують можливість створювати локальні пошукові інструменти без необхідності постійно користуватися серверами Google.
Наприклад за допомогою EmbeddingGemma 2 користувач може знайти конкретний фрагмент відео за допомогою текстових запитів або витягнути інформацію з годин аудіозаписів. Програмне забезпечення може використовуватися не тільки для пошуку документів а й для фотографій та програмного коду. Google підкреслює переваги локального пошуку приватних даних оскільки вони не потребують зберігання в хмарі.
1 з 3
Однією з головних переваг стала невелика потреба в ресурсах. У квантованому вигляді на Pixel 11 Pro текстова версія моделі використовує близько 191 МБ оперативної пам’яті, а повна мультимодальна конфігурація — приблизно 567 МБ. Контекстне вікно збільшили до 8192 токенів, що дозволяє обробляти до 5,5 хвилини аудіо, близько 29 зображень або 58 відеокадрів.
Google також заявляє про помітне зростання продуктивності в роботі з кодом. У тесті MTEB Code EmbeddingGemma 2 отримала 78,68 бала проти 68,76 у попередньої версії. Модель уже доступна розробникам на Hugging Face та Kaggle за ліцензією Apache 2.0. Її можна використовувати для локального пошуку, систем RAG та інших ШІ-функцій на смартфонах і ноутбуках.