Маркировка ИИ-текстов. Пользователи Claude опасаются проблем на работе и в учебе
Пользователи Claude обсуждают новую систему невидимой маркировки текстов, созданных ИИ. В Anthropic пояснили, что это необходимо для соблюдения требований ЕС, однако некоторые опасаются, что такие метки могут выдать факт использования чат-бота.
Об этом пишет издание TechCrunch .
Компания Anthropic начала добавлять к результатам работы Claude невидимый цифровой код, позволяющий компьютерным системам определить, что текст был создан или отредактирован искусственным интеллектом.
Компания внедрила эту систему в связи с требованиями Европейского кодекса прозрачности в отношении ИИ. Он предусматривает, что контент, созданный или измененный с помощью искусственного интеллекта, должен быть пригоден для автоматического распознавания.
Нововведение вызвало дискуссии среди пользователей, в частности на Reddit. Некоторые из них опасаются, что маркировка может создать проблемы для студентов, журналистов и сотрудников, использующих Claude в своей работе.
Один из пользователей предположил, что система в первую очередь способна выявлять обычных людей, не пытающихся скрыть использование ИИ. В качестве примеров он привел студента, попросившего Claude переформулировать абзац, или журналиста, использовавшего чат-бота для сокращения большого текста.
Другие участники обсуждения не согласились с такими опасениями. Они отметили, что проблема возникает не из-за самого использования ИИ, а из-за выдачи его результатов за собственную работу.
Некоторые пользователи назвали новую систему неэтичной. Они считают, что если человек сам формулирует задачу, предоставляет контекст, принимает решения и многократно редактирует результат, то Claude лишь помогает выполнить работу. По их мнению, маркировка созданного текста может создавать впечатление, что чат-бот претендует на авторство.
Другие пользователи ответили, что маркировка не означает претензию на авторство. Её цель — дать возможность определить происхождение контента и учитывать риски, связанные с материалами, созданными ИИ.
В то же время часть критики касается не самого принципа маркировки, а происхождения технологий искусственного интеллекта. Один из пользователей назвал эту ситуацию ироничной, поскольку модели ИИ обучаются на огромных массивах чужих материалов, а теперь сами могут оставлять цифровые метки в созданном контенте.
Несмотря на критику, в дискуссиях преобладает поддержка нововведения. Часть пользователей считает, что возможность распознавать материалы, созданные ИИ, необходима для прозрачности, а главная причина избегать такой маркировки может заключаться в желании скрыть использование чат-бота.