ChatGPT не захистить дисертацію: в Україні підготували правила використання ШІ в науці

В Україні розробили рекомендації щодо відповідального використання штучного інтелекту в науковій діяльності. Документ пояснює, як дослідникам застосовувати ChatGPT та інші генеративні ШІ-інструменти для аналізу інформації, підготовки публікацій і автоматизації рутинних завдань, не порушуючи принципів академічної доброчесності.

Рекомендації охоплюють три основні категорії користувачів: науковців, рецензентів і наукові установи. Центральний принцип документа — штучний інтелект може допомагати людині, але не замінює її експертного судження та відповідальності за результати дослідження.

Рекомендації розроблено за сприяння проєкту «Цифровізація для зростання, доброчесності та прозорості» (UK DIGIT), який виконує Фонд Євразія за фінансування UK International Development.

Як науковцям дозволено використовувати штучний інтелект

Генеративний ШІ поступово стає інструментом повсякденної роботи дослідників. Сучасні мовні моделі можуть допомагати опрацьовувати великі обсяги тексту, писати програмний код, структурувати інформацію та готувати матеріали до публікації.

Водночас важливо розрізняти допоміжні функції та власне наукову діяльність, яка потребує перевірки, обґрунтування й відповідальності автора.

Згідно з представленими рекомендаціями, до прийнятних сценаріїв використання ШІ належать:

• Переклад наукових текстів. ШІ може допомагати перекладати матеріали, але термінологію та зміст повинен перевіряти дослідник.
• Форматування документів. Автоматизація оформлення тексту, таблиць, бібліографічних даних і структури публікацій.
• Написання програмного коду. Генерація допоміжних скриптів для обробки даних та автоматизації обчислень із подальшим тестуванням.
• Систематизація метаданих. Упорядкування описів, категорій, ключових слів та іншої супровідної інформації.
• Структурування ідей. Допомога у формуванні планів, організації матеріалів і підготовці чорнових варіантів тексту.

Проте навіть у цих випадках результати роботи ШІ необхідно перевіряти.

Наприклад, автоматично згенерований програмний код може містити логічні помилки, а переклад — спотворювати значення спеціалізованих термінів.

Що заборонено: фейкові джерела, співавторство ШІ та автоматичне рецензування

Окрему увагу рекомендації приділяють ризикам, які можуть безпосередньо порушувати академічну доброчесність.

Однією з найсерйозніших проблем генеративного штучного інтелекту залишається створення переконливої на вигляд, але неправдивої інформації.

Мовні моделі можуть вигадувати назви наукових публікацій, авторів, результати експериментів і бібліографічні посилання.

Тому дослідникам не можна використовувати неперевірені ШІ-відповіді як підтверджені наукові факти.

Основні обмеження використання ШІ

Сценарій Оцінка Пояснення Переклад наукового тексту Дозволено Потрібна перевірка змісту Форматування документа Дозволено Автор контролює результат Генерація програмного коду Дозволено Код необхідно тестувати Структурування ідей Дозволено Наукові висновки формує людина Вигадування результатів дослідження Заборонено Порушує академічну доброчесність Створення фальшивих джерел Заборонено Спричиняє поширення недостовірної інформації Зазначення ШІ як співавтора Заборонено ШІ не може нести авторську відповідальність Делегування рецензування ШІ Заборонено Загрожує конфіденційності та якості оцінювання

Особливо важливим є питання авторства.

ChatGPT та інші ШІ-системи не можуть бути повноцінними співавторами наукової роботи, оскільки не здатні самостійно відповідати за достовірність результатів, дотримання етичних норм і зміст публікації.

Якщо дослідник використовував ШІ під час підготовки роботи, необхідність і спосіб розкриття такого використання слід визначати відповідно до вимог наукової установи, видавництва або журналу.

Чому рецензентам не можна передавати наукові роботи ChatGPT

Рецензування — один із ключових механізмів забезпечення якості наукових публікацій.

Під час експертного оцінювання рецензенти часто отримують доступ до неопублікованих результатів, експериментальних даних, нових наукових ідей та іншої конфіденційної інформації.

Передавання таких матеріалів стороннім ШІ-сервісам може створювати ризики несанкціонованого розкриття інформації.

Крім того, генеративні моделі не гарантують коректного оцінювання наукової новизни, методології дослідження та достовірності висновків.

Саме тому представлені рекомендації забороняють делегувати штучному інтелекту експертне рецензування чужих наукових робіт.

Відповідальність за оцінку рукопису повинна залишатися за призначеним фахівцем.

Політики для університетів і наукових установ

Поширення генеративного ШІ створює нові завдання не лише для окремих дослідників, а й для університетів, науково-дослідних інститутів і редакцій академічних видань.

Організаціям необхідно визначати зрозумілі правила використання ШІ, особливо під час роботи з конфіденційними матеріалами.

Доцільно передбачити:

• Політику захисту даних. Визначити, які матеріали можна передавати зовнішнім ШІ-сервісам, а які повинні залишатися в захищеному середовищі.
• Правила прозорості. Установити вимоги до декларування використання генеративного ШІ в наукових роботах.
• Людський контроль. Закріпити відповідальність дослідників і рецензентів за перевірку результатів.
• Навчання персоналу. Пояснювати працівникам ризики галюцинацій моделей, витоку інформації та алгоритмічних помилок.

Для установ, які працюють із чутливими даними, окремим напрямом може стати використання локальних ШІ-моделей або захищених корпоративних рішень.

Однак навіть локальне розгортання не усуває потреби перевіряти достовірність інформації та дотримуватися академічних стандартів.

HiTech Expert Take: ШІ прискорює дослідження, але не замінює науковця

Поява рекомендацій щодо використання штучного інтелекту в науці свідчить про перехід від стихійного застосування генеративних моделей до формування правил їхнього відповідального використання.

Для української наукової спільноти це важливо з кількох причин.

По-перше, ШІ здатний скорочувати час на технічні та адміністративні завдання, дозволяючи дослідникам зосередитися на експериментах, аналізі та формуванні нових знань.

По-друге, генеративні моделі створюють нові ризики для достовірності наукових результатів. Переконливо сформульована відповідь ChatGPT не є доказом її правильності.

По-третє, науковим установам необхідно адаптувати правила роботи з інформацією до нових технологічних умов.

Головний висновок: штучний інтелект може бути ефективним науковим асистентом, але не самостійним дослідником, автором чи рецензентом.

Саме людина повинна перевіряти джерела, оцінювати методологію, інтерпретувати результати та відповідати за підсумкову публікацію.

Більше новин про штучний інтелект, цифровізацію, програмне забезпечення та розвиток технологій читайте в рубриці IT на HiTech Expert.