Авторство открытий. ИИ приблизился к переломному моменту в математике
Искусственный интеллект уже начал менять математику : после нескольких спорных случаев, связанных с решением сложных задач, ученые обсуждают вопросы авторства, плагиата и роли людей в будущих открытиях.
Об этом пишет издание Gizmodo .
Математическое сообщество активно обсуждает влияние ИИ после того, как 8 сентября компания OpenAI объявила о решении проблемы существования и гладкости решений уравнений Навье — Стокса. Эта математическая задача оставалась нерешенной почти столетие.
Однако вместо единодушного одобрения открытие вызвало споры. Некоторые математики заявили, что компания, возможно, недостаточно учла работу исследователей, ранее занимавшихся смежными вопросами.
В частности, математик из Нью-Йоркского университета Тристан Бакмастер утверждал, что OpenAI пыталась повлиять на то, как он будет публиковать свои результаты. Компания заявила, что действовала добросовестно и предлагала Бакмастеру частичное признание его вклада.
Отдельную претензию выдвинул математик из Дрезденского технического университета Андреас Том. Он обратил внимание на сходство решения другой математической задачи OpenAI с работой, которую он выполнил совместно с Габором Куном.
Том обратился в OpenAI с вопросом, могла ли их работа, которую они обсуждали с ChatGPT, попасть в модель в процессе обучения или быть непосредственно использована для решения задачи. По словам математика, исследователь OpenAI Марк Селке ответил, что этого не произошло.
Позже OpenAI уточнила, что ни люди, ни ИИ-агенты, работавшие над решением задачи Навье — Стокса, не видели конкретных данных пользователей. В то же время компания отметила, что не может исключить использование обезличенных данных, полученных в ходе использования ее продуктов, для улучшения моделей.
Том считает, что такой ответ отличается от категорического отрицания, которое он услышал ранее. По его мнению, в подобных ситуациях компания должна четко обозначать границы того, что ей известно.
После публикации результатов OpenAI Бакмастер заявил, что появление подобных систем навсегда меняет работу математиков. Том также считает, что математика уже перешла определенный рубеж, но призывает научное сообщество адаптироваться к новым условиям.
По его мнению, математикам придется пересмотреть содержание обучения студентов и подходы к определению вклада людей и ИИ в новые результаты.
Один из главных вопросов касается авторства. Если ИИ создает математический результат, используя знания и идеи, полученные благодаря работе многих людей, возникает вопрос: кому принадлежит этот результат? Том подчеркивает, что способность систем ИИ создавать новые решения в значительной степени сформирована на основе человеческого творчества.
К дискуссии присоединились 27 лауреатов Филдсовской премии. Спустя три дня после публикации OpenAI они подписали заявление, в котором предостерегли от использования решения математических задач искусственным интеллектом в качестве основного показателя возможностей таких систем. Ученые также обратили внимание на проблемы, связанные с авторством и возможным плагиатом.
22 сентября OpenAI объявила о создании консультативной группы совместно с независимыми математиками. Её задача — вовлечь более широкое математическое сообщество в обсуждение того, как будет развиваться взаимодействие ИИ и математики.
Том считает, что перемены уже начались, а математика стала одной из первых областей, где влияние мощных моделей ИИ напрямую столкнулось с вопросами научного авторства и конкуренции.