Вперше створили шрифт-привид: людина може прочитати текст, а ШІ — ні

Платформа зі штучним інтелектом для дизайнерів Mixfont представила експериментальний Ghost Font — незвичний спосіб приховування тексту, який залишається зрозумілим для людини, але виявився майже недоступним для сучасних ШІ-моделей. Повідомлення можна прочитати лише в русі, а коли відео на паузі — літери повністю зливаються з фоном.

Ghost Font не є класичним шрифтом у форматі TTF. Це експериментальна система візуальної комунікації, у якій символи формуються рухом крапок. Людське око легко розпізнає літери під час відтворення відео, тоді як окремий кадр не містить читабельного тексту.

Створені за допомогою Ghost Font відео протестували на провідних мультимодальних ШІ-моделях — Claude Fable та GPT Sol 5.6 Ultra. Ці новітні моделі не змогли правильно розшифрувати приховані повідомлення, доки їм не пояснили точний спосіб аналізу руху.

Додатковим рівнем захисту стало використання так званого повідомлення-приманки. Якщо модель намагається знайти прихований текст, вона спершу натрапляє саме на нього й сприймає його як справжнє повідомлення, тоді як основний текст залишається нерозпізнаним.

Mixfont порівняла Ghost Font із проєктом ZXX, який дизайнер Санг Мун представив ще у 2013 році. Тоді шрифт створили для захисту від систем оптичного розпізнавання символів (OCR), однак сучасні ШІ-моделі без особливих труднощів читають текст, написаний ZXX. На відміну від нього, Ghost Font приховує повідомлення в русі, через що навіть скріншот відео не дозволяє побачити текст, а моделі, які аналізують окремі кадри, не можуть відновити його зміст.

Втім, розробники наголосили, що Ghost Font не є повноцінною системою захисту інформації. За його словами, найнадійнішим способом приховати дані залишаються шифрування та використання ключів доступу. Проєкт покликаний насамперед дослідити межі сучасного комп'ютерного зору та мультимодальних моделей.

У майбутньому технологію пропонують протестувати в системах CAPTCHA, які дедалі частіше успішно обходять сучасні ШІ-моделі. Використання руху замість статичних символів може ускладнити автоматичне розпізнавання, залишаючись водночас достатньо зрозумілим для людини.

У Mixfont також вважають, що Ghost Font може стати інструментом для оцінки розвитку мультимодальних моделей. Нині більшість із них аналізують відео як набір окремих кадрів, однак із появою моделей, здатних працювати безпосередньо з відеопотоком, перевага нового шрифта може зникнути. Саме тому Ghost Font розглядається лише як експеримент, який демонструє сучасні межі сприйняття ШІ.

Нещодавно дослідники компанії Anthropic заявили про виявлення у ШІ-моделі Claude спеціального внутрішнього простору під назвою J-Space, де ШІ здатний утримувати та обробляти приховані логічні операції без виведення їх у текст. Ця структура становить менше десятої частини нейронної активності моделі, проте її блокування повністю позбавляє систему здатності до складних міркувань і кодування.