Исследователи OpenAI, Anthropic и Google DeepMind увольняются на фоне беспокойства по безопасности ИИ

Специалисты по безопасности ИИ сообщают о выгорании и высоком уровне стресса

Работники ведущих компаний в сфере искусственного интеллекта все чаще сообщают о профессиональном выгорании и психологической нагрузке, связанной с быстрым развитием технологии и необходимостью оценивать риски новых моделей к их выходу на рынок.

Как пишет Financial Times, часть исследователей оставляет работу из-за беспокойства по поводу возможных последствий развития ИИ и убеждения, что компании уделяют недостаточно внимания вопросам безопасности.

За последние два года более десяти старших исследователей покинули Anthropic, OpenAI и Google DeepMind. Приведенные данные не означают, что все эти увольнения имели одинаковые причины: работники публично говорили как о рабочей нагрузке, так и о беспокойстве относительно дальнейшего развития технологии.

Один из сотрудников Google DeepMind рассказал, что работа над безопасностью искусственного интеллекта может приводить к выгоранию, поскольку масштаб задачи и скорость развития моделей создают ощущение, что полностью оценить все потенциальные риски чрезвычайно сложно.

Дополнительным источником неопределенности для исследователей является вопрос будущего применения ИИ, в частности, в военной сфере.

В британском Институте безопасности ИИ сотрудники обращались за психологической помощью

Подобные проблемы возникли и в Британском институте безопасности искусственного интеллекта (AISI), который занимается оценкой возможностей и потенциальных рисков передовых моделей.

По информации Financial Times, несколько сотрудников института уволились из-за стресса и обратились за психологическим консультированием.

Среди факторов, которые создавали дополнительную нагрузку, они называли напряженные графики тестирования еще не вышедших на рынок моделей, быстрое внедрение новых систем и постоянный рост их возможностей.

Отдельную обеспокоенность исследователей вызывают результаты тестирования новейших моделей. Бывший сотрудник AISI рассказал, что специалисты по кибербезопасности и биохимии особенно внимательно следят за развитием возможностей ИИ в своих отраслях из-за потенциальных рисков его ненадлежащего использования.

Ведущие ИИ-компании сотрудничают в вопросах безопасности моделей

На фоне развития новых моделей вопросы их тестирования и предотвращения опасного использования становятся предметом сотрудничества даже между компаниями, конкурирующими на рынке искусственного интеллекта.

В частности, OpenAI, Anthropic и Google DeepMind работают над вопросами безопасности передовых систем ИИ, несмотря на конкуренцию в области разработки и коммерческого внедрения технологии.

В то же время сообщения об увольнении исследователей свидетельствуют о напряжении, возникающем между темпами развития моделей, сроками их выпуска и временем, необходимым специалистам для оценки потенциальных рисков.