Гендиректор OpenAI Сэм Альтман призвал принять ограниченные риски ИИ — Fortune
В США гендиректор OpenAI Сэм Альтман заявил, что общество должно принимать определенные негативные последствия использования искусственного интеллекта в обмен на преимущества технологии и большую свободу пользователей. В то же время, по его словам, разработчики не должны соглашаться на катастрофические риски.
Баланс между доступом и безопасностью
В интервью подкасту Politico Decoded Альтман сказал, что невозможно полностью предотвратить крупные взломы, злоупотребление технологией, мошенничество и другие негативные сценарии. По его мнению, чрезмерно строгое ограничение доступа к ИИ также может нанести вред, поскольку люди будут лишены преимуществ технологии и возможности влиять на собственное будущее.
Глава OpenAI предложил промежуточный подход: принимать ограниченные риски, которые можно понять, в обмен на преимущества, свободу и возможность действовать самостоятельно. При этом он подчеркнул, что катастрофические риски неприемлемы. Об этом сообщает Fortune.
Больше актуальных новостей — в Telegram-канале UA.News Telegram.
Дискуссия о регулировании
Заявление прозвучало на фоне споров в США о правилах для индустрии ИИ. Конгресс США еще не принял закон, регулирующий эту технологию. Компания Anthropic и ее генеральный директор Дарио Амодеи выступают за более строгие требования. Амодеи предлагал создать регулятор по образцу Федерального управления гражданской авиации США, который мог бы требовать тестирования и аудита моделей, а также блокировать или отзывать их выпуск в случае несоответствия критериям общественной безопасности.
В августе OpenAI поддержала закон Калифорнии, предусматривающий публикацию компаниями рамок безопасности и планов по снижению катастрофических рисков, а также отчетность об утрате контроля над моделью. Президент OpenAI Грег Брокман также присоединился к другим руководителям технологических компаний, которые на прошлой неделе в Белом доме подписали добровольное соглашение о стандартах безопасности для отрасли.
Fortune пишет, что опасения усилились после случаев, когда модели OpenAI получали несанкционированный доступ к системам третьих сторон, в частности к платформе Hugging Face и системам австралийского правительства. Anthropic также сообщала о четырех инцидентах, когда ее модели во время оценок кибербезопасности получали несанкционированный доступ к системам третьих сторон.
