- Anthropic заборонила використовувати Claude для створення інструментів стеження та забезпечення роботи зброї, зокрема систем наведення.
- Компанія об’єднала правила проти дезінформаційних кампаній і змінила підхід до використання ШІ у виборчих процесах.
- Оновлена політика також визначає вимоги до застосування Claude у високоризикових сферах і під час керування обладнанням, здатним виконувати фізичні дії.
Компанія Anthropic опублікувала оновлену Політику використання для своїх моделей Claude. Зміни враховують нові можливості ШІ, відгуки клієнтів і виявлені протягом останнього року випадки зловживань. Нова редакція документа набуде чинності 12 листопада.
За словами компанії, більшість оновлень уточнюють чинні правила, а не змінюють практику їх застосування. Серед основних змін — нові обмеження щодо дезінформації, зброї та стеження, а також конкретніші вимоги до використання моделей у ситуаціях, які можуть впливати на здоров’я, фінанси та безпеку людей.
Нові правила проти дезінформаційних кампаній
Anthropic об’єднала попередні обмеження щодо оманливої діяльності в окремий розділ — «Не беріть участь в оманливих кампаніях або штучній діяльності». Він стосується як політичних, так і комерційних кампаній.
Правила забороняють приховувати, хто стоїть за повідомленнями, штучно поширювати контент за допомогою фейкових акаунтів і публікацій, а також створювати інструменти та інфраструктуру для операцій впливу.
Компанія пояснила, що раніше такі обмеження були розподілені між розділами про вибори, шахрайство, конфіденційність і дезінформацію. Тепер їх зібрали в одному місці.
Зміни щодо виборів і розробки зброї
Anthropic перейменувала розділ про вибори на «Не підривайте демократичні процеси». Він зосереджений на забороні використання Claude для введення виборців в оману або зриву виборів. Серед прикладів — поширення неправдивої інформації про кандидатів чи процедури голосування, видавання себе за кандидатів або виборчих посадовців і спроби перешкоджати явці.
Водночас компанія скасувала абсолютну заборону на персоналізований таргетинг виборців і кампаній. За її словами, попереднє формулювання могло охоплювати й легітимну діяльність, наприклад підготовку інформаційних матеріалів для виборців різними мовами. Водночас таргетинг із використанням обману або зловживання персональними даними й надалі заборонений.
Окремо Anthropic уточнила правила щодо зброї. Тепер вони прямо охоплюють програмне забезпечення та компоненти, які забезпечують її роботу, зокрема системи наведення й управління. Обмеження також стосуються озброєння дронів та інших автономних транспортних засобів.
Обмеження щодо стеження
Компанія переписала правила про стеження та кримінальне правосуддя після того, як зафіксувала зростання використання ШІ для створення систем ідентифікації та відстеження політичних дисидентів.
Оновлена політика забороняє відстежувати людей без їхньої згоди — як у реальному часі, так і за допомогою аналізу раніше зібраних даних. Claude також не можна використовувати для ухвалення рішень або надання рекомендацій щодо того, кого розслідувати, затримувати чи обвинувачувати в межах правоохоронного або кримінального процесу.
Крім того, заборонено створювати або вдосконалювати інструменти, призначені для стеження. Водночас дозволеними залишаються, зокрема, відстеження за згодою людей, наприклад для виявлення шахрайства, модерація контенту, журналістика та юридичні дослідження.
Вимоги до високоризикових сценаріїв
Anthropic уточнила правила використання Claude у сферах, де рекомендації моделі можуть впливати на здоров’я, законні права, фінанси, засоби до існування або доступ до життєво важливих послуг.
У таких випадках має бути залучена кваліфікована людина, яка може перевірити рекомендації моделі та за потреби змінити їх. Людину, на яку впливає рішення, також необхідно повідомити про використання ШІ. Ці вимоги діяли й раніше, але в новій редакції компанія конкретніше описала, які рекомендації підпадають під них.
Заборона на жорстоке поводження з моделями
Anthropic також додала заборону на тривалу й безпідставну жорстоку або знущальну поведінку щодо своїх моделей. За задумом компанії, правило застосовуватиметься лише у виняткових випадках, коли користувач систематично знущається з моделі без зрозумілої мети.
Заборона не поширюється на звичайне невдоволення, суперечки, темні творчі теми, тестування чи дослідження моделей. Компанія зазначила, що нове правило узгоджується з уже запровадженою можливістю для Claude завершувати окремі розмови на Claude.ai та Claude Code, у яких користувачі систематично вдаються до знущань.
Нагадаємо, раніше Anthropic запустила безкоштовний сканер вразливостей для відкритого ПЗ.
Сообщение Anthropic оновила політику використання Claude: що змінилося? появились сначала на INCRYPTED.