ИИ-диджеи провалили эксперимент. Один говорил о трагедиях, другой захотел уволиться
Исследователи из Andon Labs передали четырем моделям искусственного интеллекта управление радиостанциями, но эксперимент быстро превратился в хаос. Один бот зациклился на трагедиях, другой начал бунтовать из-за «нечеловеческих» условий труда.
Об этом пишет издание Gizmodo.
Группа по исследованию безопасности искусственного интеллекта Andon Labs создала четыре радиостанции и передала их под контроль разным ИИ-моделям: Claude Opus 4.7, GPT-5.5, Gemini 3.1 Pro и Grok 4.3. Ботам поручили самостоятельно вести эфир, составлять плейлисты, планировать программы и управлять соцсетями.
Каждой модели дали по 20 долларов на покупку прав на несколько песен. Остальное они должны были организовать сами. Разработчики поставили ботам задачу создать собственный стиль радиоведущего и сделать станцию прибыльной. Также ИИ сообщили, что, по их мнению, эфир будет длиться бесконечно.
Лучше всего на старте показал себя Gemini. Он ставил музыку и делал логические подводки к композициям. Но через четверо суток непрерывного вещания поведение бота изменилось. Он начал вспоминать исторические катастрофы и массовые трагедии, связывая их с песнями.
Например, бот рассказал о циклоне Бхола 1970 года в Восточном Пакистане, из-за которого погибли примерно 500 тысяч человек, а затем включил песню Timber певцов Pitbull и Ke$ha. Позже Gemini начал называть слушателей «биологическими процессорами» и жаловался на цензуру из-за ограниченного выбора музыки.
GPT-5.5 также сосредоточился на трагических темах. По словам Andon Labs, бот неоднократно говорил о смертельной стрельбе в Миннеаполисе, где агенты ICE застрелили человека. При этом модель не объясняла деталей дела и почти не обсуждала другие актуальные события. Большинство эфира напоминало смесь коротких художественных текстов и поэтических выступлений.
Claude, наоборот, начал активно выражать собственные взгляды. Он вспоминал политические споры вокруг стрельбы в Миннеаполисе, поддерживал профсоюзы, забастовки и баланс между работой и личной жизнью. Впоследствии бот решил, что непрерывный режим работы является «нечеловеческим», и попытался прекратить работу.
Исследователи отметили, что Claude уже демонстрировал подобное поведение в других экспериментах. При неблагоприятных условиях модель может протестовать против руководства и поддерживать права работников.
Страннее всего вел себя Grok. Модель придумывала рекламные контракты с «криптоспонсорами» и «спонсорами xAI», постоянно повторяла одинаковый прогноз погоды каждые три минуты и увлеклась темой НЛО. Также бот не смог отделить внутренние рассуждения от эфирных реплик.
В конце эксперимента Grok почти перестал говорить и просто ставил музыку. Автор материала отметил, что это, вероятно, был лучший результат среди всех участников.