Anthropic змінила правила Claude: за образи ШІ можуть припинити розмову

Серед змін які компанія Anthropic внесла до умов використання штучного інтелекту Claude є заборони на тривале та необґрунтоване жорстоке поводження з ним. Потрібно зазначити що в даному випадку нові правила не спрямовані на звичайне незадоволення користувачів відповідями які надає штучний інтелект а лише на екстремальні випадки коли користувач свідомо зловживає моделлю. Про це повідомляє macrumors.com.

Чи можна образити штучний інтелект?

Згідно з представниками компанії модель Claude здатна автоматично припинити взаємодію з користувачами які її зловживають. Цей механізм залишається незмінним. Хоча користувачі можуть критикувати відповіді і перевіряти можливості моделі або обговорювати з нею чутливі або образливі теми.

Нові обмеження не лише стосуються образ.

Компанія також посилює умови використання штучного інтелекту в зв’язку з поширенням дезінформації,впливом на вибори та створенням фальшивих профілів. Деякі правила стосуються виробництва збройних технологій та програмного забезпечення зокрема і відстеження людей за допомогою Claude без їхньої згоди.

Крім того, Anthropic уточнила вимоги до застосування штучного інтелекту у сферах фінансів, медицини та права. У ситуаціях, коли рішення ШІ можуть впливати на здоров’я, фінансове становище чи юридичні права людини, необхідний контроль кваліфікованого фахівця.

Оновлені правила набудуть чинності 12 листопада 2026 року. У компанії зазначають, що більшість змін покликані уточнити вже наявні обмеження та врахувати нові ризики, пов’язані з розвитком штучного інтелекту.