Вопросы к контролю. OpenAI получила разрешение на запуск Sol, но процедура проверки засекречена
OpenAI открыла широкий доступ к новой модели искусственного интеллекта Sol, однако критерии, по которым правительство США разрешает выпуск подобных систем, остаются неясными. Эксперты отмечают, что этот процесс практически не раскрывается.
Об этом пишет издание TechCrunch .
OpenAI начала масштабное развертывание модели Sol, которую считают как минимум столь же мощной, как модель Fable от Anthropic. Именно использование Fable ранее временно ограничивали из-за опасений властей США по поводу возможностей этой модели.
Тем не менее, до сих пор неизвестно, как именно правительство США оценивает безопасность передовых моделей искусственного интеллекта перед их запуском. Исследовательница Центра безопасности и новых технологий Джорджтаунского университета Мина Нараянан заявила, что у нее недостаточно информации для оценки того, является ли действующая процедура достаточно надежной.
По ее словам, Anthropic сообщала о сотрудничестве с правительством, создании системы для выявления попыток обхода ограничений и использовании нескольких уровней защиты. В то же время подробности переговоров компаний с властями остаются неизвестными.
Бывший советник Дональда Трампа, а ныне сотрудник OpenAI Дин Болл ранее писал, что никто не знает, какие именно требования необходимо выполнить для получения разрешения на выпуск таких моделей.
Сооснователь Databricks и Perplexity Энди Конвински также заявил, что даже сотрудники ведущих лабораторий не понимают, как принимаются эти решения. По его мнению, главный вопрос заключается не только в безопасности, но и в том, кто именно получает право решать, какие модели можно запускать.
В прошлом месяце администрация США опубликовала указ, определяющий общий план оценки передовых моделей ИИ. Однако конкретных правил пока нет. Власти также еще не определили, какие именно модели должны проходить проверку и какое ведомство будет отвечать за этот процесс. Ожидается, что окончательный механизм будет согласован к началу августа.
Генеральный директор OpenAI Сэм Альтман рассказал, что компания обсуждала запуск Sol с министром торговли Говардом Латником, министром финансов Скоттом Бессентом и директором по кибербезопасности Шоном Кернкроссом. Однако OpenAI не пояснила, кто именно проверял модель от имени правительства и как проходила эта оценка.
Компания лишь сослалась на независимые проверки, проведенные британским Институтом безопасности ИИ (AISI), SecureBio и Irregular. До официального запуска Sol также продемонстрировали представителям правительства и ограниченному кругу пользователей, однако их состав не раскрывается.
В то же время обозреватели указывают на возможный конфликт интересов. По сообщениям СМИ, Альтман предлагал передать администрации до 5% акций OpenAI в рамках проекта «Trump Accounts», а президент компании Грег Брокман является крупнейшим известным донором политической кампании Трампа. В связи с этим, по мнению критиков, трудно отделить политические связи от более мягкого подхода властей к регулированию Sol.
В отличие от OpenAI, модель Fable от компании Anthropic была временно изъята из широкого доступа после того, как правительство США запретило иностранным гражданам ею пользоваться. Причиной послужили опасения, что модель можно заставить выполнять опасные хакерские задачи, а также напряженные отношения между Anthropic и администрацией Трампа.
Часть экспертов считает, что оценкой безопасности должны заниматься независимые организации при участии ученых, государственных учреждений и частных компаний. По их мнению, прозрачные правила помогут одновременно 111 развитие технологий и снижать риски, тогда как нынешняя закрытость лишь усиливает недоверие к индустрии искусственного интеллекта.