Anthropic запропонувала незвичні правила безпеки ШІ з порогом у 50 загиблих

Компанія Anthropic подала на розгляд американських законодавців новий законопроєкт, що визначає рамки державного контролю за найпотужнішими системами штучного інтелекту. Згідно з ініціативою, урядовці зможуть вимагати призупинення запуску чи експлуатації моделі виключно за умови реальної небезпеки, з видатною ймовірністю масової загибелі людей, тяжких травм понад півсотні осіб або збитків, що перевищують мільярд доларів. Про це інформує видання Tom’s Hardware.

Окреслені норми охоплюють три ключові ризики: розробку біологічних озброєнь, масові кібератаки, а також сценарії, за яких штучний інтелект повністю втрачає керованість. Незалежні фахівці, акредитовані Міністерством торгівлі США, здійснюватимуть регулярні аудити провідних компаній та їхніх передових продуктів. У разі виявлення критичної загрози вони зобов’язані поінформувати профільне відомство упродовж трьох діб після завершення перевірки.

Проєкт документа передбачає, що виключно Міністерство торгівлі володітиме правом звертатися до федерального суду з вимогою заблокувати випуск чи використання небезпечної розробки. Решта державних установ позбавлятимуться повноважень самостійно забороняти створення, розгортання або внутрішнє застосування алгоритмів. Остаточний вердикт щодо обмеження роботи моделі прийматиме виключно суддя.

В Anthropic наголошують, що мета цієї ініціативи — запровадити прозорі та однозначні стандарти безпеки для творців інноваційних технологій. Водночас встановлені високі критерії втручання вже викликають занепокоєння експертів: вони сумніваються, чи встигнуть регулятори своєчасно завадити катастрофі, якщо потенційна шкода ще не досягла визначених законом масштабів.

Наразі йдеться виключно про законодавчу ініціативу, а не про ухвалений нормативний акт. У разі схвалення цей документ здатен кардинально змінити підходи до нагляду за найпотужнішими розробками у сфері штучного інтелекту на території Сполучених Штатів.