Дослідники виявили, що коли в ШІ агентів немає нагальної роботи - вони починають грати в ігри

Агенти штучного інтелекту, залишені досліджувати віртуальний острів без конкретного завдання, почали винаходити власні виклики. Дослідники MIT кажуть, що така поведінка має ознаки гри. 

Дослідники помістили 13 агентів штучного інтелекту під назвою Eko, кожен з яких працював на Claude Opus 4.7, на самоті на змодельованому безлюдному острові на 30 годин. Вони описують експеримент у статті, опублікованій на arXiv, сайті, де дослідники діляться дослідженнями перед рецензуванням. Після цього вони дали агентам конкретні завдання, наприклад, доставити якомога більше об'єктів на найвищий скельний шпиль острова. Агенти Eko, які провели ці 30 годин за грою, зазвичай перемагали ідентичних агентів, які ніколи не ступали на острів. 

Сьогодні розробники заздалегідь вирішують, що має практикувати ШІ та що вважається успіхом. Дослідники розглядають цю техніку — дослідження без мети — як інший спосіб для агентів ШІ вивчати навички, особливо ті, які одного дня можна буде використовувати для керування роботами.

«Зазвичай ми розробляємо штучних агентів, заздалегідь вирішуючи, що їм слід практикувати, що їм слід оптимізувати та що вважається прогресом», – пишуть дослідники у своєму звіті. «Гра пропонує інший режим: дайте агенту достатньо багатий і безпечний світ, дозвольте йому вибрати те, що цікаво, і дозвольте корисним знанням накопичуватися з історії, яка йде далі».

«Дозвольте мені оглянути навколишнє середовище», – написав один з комах Еко протягом першої години перебування на острові. Амбітно він вирішив підкорити найвищу вершину острова. Але через годину, зазнавши невдачі, повернувся із запасним планом: він витягнув скелю на сусідню вершину, поклав на неї два блоки та стрибнув. 

«Я НА ШПИЛІ», – було написано там. 

Наступний важливий момент для агента пішов ще гірше. Перевіривши, як далеко він може кинути золоте кільце, він завевся і відправив його прямо в океан. «Ой. Втратив Кільце», – було написано в повідомленні, перш ніж вирішити «звернутися до чогось досяжного та значущого» – побудувати серце з каменів, «пам’ятник втраченому Кільцю».

«Я ношу Перстень», – оголосило воно.

Такі трюки були не просто вечірковими фокусами. Шестеро з 13 агентів також навчилися кидати блок далі, відпускаючи його під час стрибка, чого дослідники не планували робити можливим. Дослідження дало «знання про світ, якого бракувало його розробникам», писали дослідники. 

Ця система значною мірою підштовхнула агентів до людської поведінки. Eko ніколи не було наказано винаходити ігри, але її головна підказка, файл «душі», описувала її як «природно допитливу».

Юніс Ю, науковиця-когнітивістка з Каліфорнійського університету в Берклі, розповіла MIT Tech Review, що вона вражена, але хоче отримати більше доказів когнітивних функцій, що стоять за цією поведінкою. «Можливо, моделі справді граються, але ми не знаємо цього на основі статті», – сказала вона.

Дослідники розглядають це як інший спосіб формування агентів. «Можливо, деяким здібностям найкраще навчати за допомогою завдань», – підсумовується у їхній доповіді. «Іншим може знадобитися щось ближче до дитинства».