Австралийские ученые оценили риски использования ИИ для биологического оружия — ABC News Australia
В Австралии исследователи в области биобезопасности и общественного здравоохранения предупреждают, что развитие систем искусственного интеллекта может снизить барьеры для создания или применения опасных биологических агентов. В то же время эти технологии уже используются в медицинских и сельскохозяйственных исследованиях, сообщает ABC News Australia.
Генеральный директор Anthropic Дарио Амодеи ранее призвал замедлить развитие ИИ, чтобы технологии не опередили возможности человеческого контроля. Одним из рисков называют потенциальное применение моделей для разработки опасных биологических агентов.
Снижение барьеров для опасных исследований
Исследователь безопасности из Университета Саутерн-Кросс Брендан Уокер-Мунро считает, что ИИ снижает барьеры доступа к специализированным знаниям. Ученый в области общественного здравоохранения из Университета Нового Южного Уэльса Дэвид Хеслоп заявил, что скорость развития таких инструментов усложняет человеческий надзор.
По его словам, большие языковые модели могут помогать недобросовестным пользователям планировать использование опасных материалов, в том числе уже существующих вирусов или токсинов. В то же время, как отметил Хеслоп, для этого по-прежнему требуются профессиональная подготовка и лабораторное оборудование стоимостью десятки тысяч долларов.
В 2022 году исследователи компании Collaborations Pharmaceuticals продемонстрировали, что программное обеспечение ИИ, созданное для отсеивания потенциально токсичных препаратов, можно перенастроить для проектирования опасных токсинов. Anthropic в своем отчете по анализу угроз также сообщил о пяти случаях использования его продуктов способом, который мог поддерживать разработку биологического оружия. Компания заблокировала этих пользователей за нарушение правил, касающихся поддерживаемых регионов.
Больше актуальных новостей — в Telegram-канале UA.News Telegram.
Польза для медицины и агросектора
ИИ одновременно применяется для полезных биологических исследований. Программу AlphaFold использовали для прогнозирования структуры белков в медицинских разработках; ее создатели получили Нобелевскую премию по химии за 2024 год. Американские ученые также применили генеративный ИИ для создания новых вирусов, поражающих бактерии и потенциально способных использоваться против инфекций.
Вычислительный биолог Университета Квинсленда Дэвид Кайнер с коллегами разработал автономный инструмент ИИ для аграрных исследований. Он обрабатывает большие массивы данных и моделирует, как изменения окружающей среды или генетики могут влиять на свойства растений, в том числе на их урожайность и устойчивость к засухе.
Предохранители и контроль
Коммерческие языковые модели имеют ограничения, призванные не допустить их использования в опасных целях. Хеслоп считает, что наряду с такими предохранителями необходимы законы и регулирование. Уокер-Мунро подчеркнул, что модели с открытыми весами можно скачать и запускать в частном порядке при наличии базовых навыков программирования.
Среди возможных мер специалисты называют усиление контроля над материалами и оборудованием, а также использование ИИ для надзора за чувствительными исследованиями. В то же время Уокер-Мунро предупредил, что чрезмерные ограничения могут препятствовать законной научной работе.
