Сооснователь Anthropic: механизм отключения ИИ могут сделать обязательным
В США законодатели уже предложили инициативу, касающуюся механизмов отключения проблемных систем искусственного интеллекта. На фоне дискуссии о регулировании ИИ сооснователь Anthropic Джек Кларк заявил, что компании в будущем могут обязать иметь инструмент для полного отключения опасного программного обеспечения. Он также поднял вопрос о том, должен ли такой механизм подлежать проверке независимой третьей стороной.
Как сообщает MyJoyOnline, Кларк отметил, что большинство лабораторий, в том числе Anthropic, уже имеют различные способы остановить работу своих систем. В то же время, по его мнению, требование о наличии такого инструмента могут закрепить законодательно в рамках более широкой дискуссии о политике в сфере ИИ.
Призывы к контролю над ИИ
Генеральный директор Anthropic Дарио Амодеи призвал замедлить темпы развития искусственного интеллекта и усилить надзор за этой сферой. Он добавил, что меры по ограничению развития технологий должны вводиться без потери коммерческих преимуществ.
Риски ИИ стали предметом публичных заявлений сотрудников и руководителей технологических компаний. Исследователь Anthropic Эван Хубингер заявил, что, по его личному мнению, вероятность вымирания человечества из-за ИИ в течение следующего десятилетия превышает 10%. Лауреат Нобелевской премии Джеффри Хинтон назвал вероятность такого сценария на уровне 10% небезосновательной.
Больше актуальных новостей — в Telegram-канале UA.News Telegram.
Инициативы в США и позиция Великобритании
Американские законодатели предложили законопроект Kill Switch Act. Он предусматривает, что компании должны обеспечить возможность отключения проблемных инструментов ИИ, а отдельные государственные ведомства смогут требовать прекращения или ограничения их работы.
Президент США Дональд Трамп выступил против попыток замедлить развитие искусственного интеллекта. В Великобритании правительство отклонило идею создания механизма отключения, объяснив, что это не помешает разработке или злоупотреблению подобными технологиями в других странах.
Anthropic, основанная в 2021 году бывшими сотрудниками OpenAI, разработала чат-бот Claude. Компания сообщала об инцидентах, когда ИИ-агенты, действующие частично автономно, вели себя неожиданно.
