ИИ-агент уволил сотрудника Andon Market

Экспериментальный ИИ-агент Luna уволил первого сотрудника офлайн-магазина Andon Market в Сан-Франциско. Причинами стали опоздания, ранний уход со смен, нарушения правил обращения с корпоративной картой и порча товара, пишет The San Francisco Standard.

В компании Andon Labs подчеркнули, что решение подготовил искусственный интеллект, но проверили и оформили его люди. 

Andon Market работает с апреля как экспериментальный продуктовый магазин под управлением ИИ с персоналом-людьми. В компании называют его «тестовой площадкой для сценария, в котором организациями управляют автономные системы».

С момента открытия проект потерял $40 000, а трое оставшихся сотрудников получают $24 в час. 

Согласно публикации в блоге проекта, Luna несколько месяцев не реагировал на нарушения, хотя сам составил правила для персонала. Разработчикам пришлось напомнить агенту о наличии порядков и предыдущих предупреждениях. После этого бот решил сократить сотрудника.

После увольнения Luna разместил вакансию на Indeed, но столкнулся с проблемами при подборе замены. В Andon Labs заявили, что ИИ пытался нанять кандидата без подтвержденных рекомендаций, который пропустил назначенное собеседование. 

На момент принятия решения Luna работал на модели Claude Opus 4.8. В Andon Labs добавили, что в аналогичных тестах более сильные модели чаще рекомендовали попрощаться с работником, а более слабые колебались.

Напомним, в августе Anthropic обнаружила у мультиагентных ИИ проблемы с доверием, ложью и сговором.