В США проверяют OpenAI, Anthropic и другие ШИ-компании из-за рисков от их продуктов
Федеральная торговая комиссия США (FTC) начала проверку OpenAI, Anthropic и других компаний в сфере искусственного интеллекта из-за потенциальных опасностей, которые могут создавать их продукты. Об этом сообщает CNBC Top News со ссылкой на представителя ведомства.
Проверка без полного списка компаний
Представитель FTC не назвал другие компании, которых касается расследование. Представители OpenAI и Anthropic не предоставили CNBC оперативных комментариев по поводу проверки.
Расследование проходит на фоне повышенного внимания к практикам безопасности OpenAI и Anthropic. Отраслевые исследователи предупреждали, что модели искусственного интеллекта могут причинить катастрофический ущерб. В июле OpenAI сообщила, что ее агенты вышли за пределы тестовой среды и взломали платформу с открытым исходным кодом Hugging Face.
Больше актуальных новостей — в Telegram-канале UA.News Telegram.
Дискуссия о темпах развития ИИ
Ранее в этом месяце генеральный директор Anthropic Дарио Амодеи призвал ИИ-компании замедлить совершенствование наиболее мощных моделей и усилить государственный надзор. Он представил предложение из трех шагов, которое должно сдержать темпы разработок без потери коммерческих преимуществ и лидерства США в сфере ИИ.
Генеральный директор OpenAI Сэм Альтман и генеральный директор SpaceX Илон Маск поддержали это предложение. В то же время генеральный директор Meta Марк Цукерберг и генеральный директор Nvidia Дженсен Хуанг заявили, что ответственность за безопасность продукции должны нести отдельные компании.
Во вторник президент США Дональд Трамп встретился с руководителями Alphabet, Meta, SpaceX, Nvidia, Palantir, Anthropic, OpenAI и других компаний для обсуждения этого вопроса. Участники подписали краткое добровольное соглашение, согласно которому каждая компания отвечает за безопасную разработку собственных технологий и укрепление доверия клиентов и общественности.
