Суддям заборонили доручати ШІ ухвалення рішень: у Канаді почали запроваджувати жорсткі правила
У Канаді суди Квебеку ухвалили нові правила, які обмежують використання суддями генеративного штучного інтелекту. У документі наголошується, що ухвалення судових рішень має залишатися виключно людською відповідальністю, пише The Globe and Mail.
Нові рекомендації спільно затвердили Апеляційний суд Квебеку, Вищий суд, Суд Квебеку та муніципальні суди провінції. У них зазначено, що генеративний ШІ може використовуватися лише для окремих допоміжних завдань, але не може замінювати судове міркування, оцінку доказів чи процес ухвалення рішення.
«Судочинство, яким би складним не був генеративний ШІ, залишається виключною відповідальністю суддів», — йдеться у документі.
У 10-сторінкових рекомендаціях зазначено, що генеративний ШІ «не має ні судження, ні совісті і не підлягає жодній формі відповідальності». Також у судах підкреслили, що технологія не здатна розуміти людський, соціальний та правовий контекст, притаманний кожній справі.
Поява нових правил пов’язана з питаннями щодо можливого використання ШІ суддею Квебеку під час підготовки рішення.
Як повідомляло видання La Presse у березні, в одному із судових рішень були виявлені посилання на судову практику, якої не існувало. Це викликало припущення, що під час підготовки документа міг використовуватися генеративний штучний інтелект.
У судах зазначили, що наразі для суддів не існує схваленого та безпечного інституційного інструменту генеративного ШІ. Крім того, наявні сервіси працюють на основі алгоритмів, принцип роботи яких значною мірою залишається непрозорим.
«Судочинство не може бути зведене до технічної процедури. Це внутрішньо людська функція, заснована на обговоренні, врахуванні контексту, повазі до гідності, вимозі справедливості та здійсненні моральної відповідальності», — наголосили у рекомендаціях.
Водночас суди визнали, що генеративний ШІ може бути корисним у певних випадках. Суддям дозволили використовувати його для обмежених завдань, зокрема:
- виправлення, редагування, перефразування або перекладу тексту, який суддя вже підготував;
- виконання окремих адміністративних завдань;
- пошуку інформації у визначених джерелах.
Однак будь-яке використання ШІ має залишатися під контролем людини, а створені ним матеріали необхідно самостійно перевіряти.
У рекомендаціях окремо зазначено, що судді залишаються повністю відповідальними за свої правові висновки, зміст рішень, а також точність фактів, посилань, цитат і правових джерел.
«Жодна помилка не може бути покладена на використаний інструмент. Використання генеративного ШІ не зменшує обов’язок судді перевіряти інформацію та його повну відповідальність за кінцевий результат», — зазначили у документі.
Суди заборонили використовувати ШІ для:
- здійснення правового аналізу по суті;
- аналізу або оцінки фактів;
- оцінки доказів чи достовірності свідчень;
- визначення результату спору;
- підготовки ключових частин судового рішення.
«Якщо використання ШІ має наслідком або метою визначення правового результату, оцінки достовірності, тлумачення спірних фактів чи формулювання мотивів рішення — він не повинен використовуватися», — йдеться у рекомендаціях.
Окремо суди звернули увагу на ризики конфіденційності. Суддям заборонено передавати ШІ-сервісам проєкти судових рішень, нотатки щодо поточних справ або інформацію, захищену законом чи судовим рішенням.
До появи офіційної інституційної системи судді, які використовують ШІ для дозволених цілей, повинні переконатися, що налаштування сервісу не дозволяють використовувати введені ними дані для навчання або покращення системи.
У разі сумнівів суддям рекомендують відмовитися від використання генеративного штучного інтелекту.
Нові правила мають забезпечити захист принципів незалежності суду, неупередженості, справедливості, прав людини та доступу до правосуддя, а також гарантувати конфіденційність, безпеку та захист даних.
Підписуйтесь на наш Telegram-канал t.me/sudua та на Google Новини SUD.UA, а також на наш VIBER та WhatsApp, сторінку у Facebook, в Instagramта в Х, щоб бути в курсі найважливіших подій.
