• Anthropic запретила использовать Claude для создания инструментов слежки и обеспечения работы оружия, в частности систем наведения.
  • Компания объединила правила против дезинформационных кампаний и изменила подход к использованию ИИ в избирательных процессах.
  • Обновленная политика также определяет требования к применению Claude в высокорисковых сферах и при управлении оборудованием, способным выполнять физические действия.

Компания Anthropic опубликовала обновленную Политику использования для своих моделей Claude. Изменения учитывают новые возможности ИИ, отзывы клиентов и выявленные в течение последнего года случаи злоупотреблений. Новая редакция документа вступит в силу 12 ноября.

По словам компании, большинство обновлений уточняют действующие правила, а не меняют практику их применения. Среди основных изменений — новые ограничения в отношении дезинформации, оружия и слежки, а также более конкретные требования к использованию моделей в ситуациях, которые могут влиять на здоровье, финансы и безопасность людей.

Новые правила против дезинформационных кампаний

Anthropic объединила предыдущие ограничения в отношении вводящей в заблуждение деятельности в отдельный раздел — «Не участвуйте во вводящих в заблуждение кампаниях или искусственной деятельности». Он касается как политических, так и коммерческих кампаний.

Правила запрещают скрывать, кто стоит за сообщениями, искусственно распространять контент с помощью фейковых аккаунтов и публикаций, а также создавать инструменты и инфраструктуру для операций влияния.

Компания пояснила, что ранее такие ограничения были распределены между разделами о выборах, мошенничестве, конфиденциальности и дезинформации. Теперь их собрали в одном месте.

Изменения в отношении выборов и разработки оружия

Anthropic переименовала раздел о выборах в «Не подрывайте демократические процессы». Он сосредоточен на запрете использования Claude для введения избирателей в заблуждение или срыва выборов. Среди примеров — распространение ложной информации о кандидатах или процедурах голосования, выдача себя за кандидатов или избирательных должностных лиц и попытки препятствовать явке.

В то же время компания отменила абсолютный запрет на персонализированный таргетинг избирателей и кампаний. По ее словам, предыдущая формулировка могла охватывать и легитимную деятельность, например подготовку информационных материалов для избирателей на разных языках. При этом таргетинг с использованием обмана или злоупотребления персональными данными по-прежнему запрещен.

Отдельно Anthropic уточнила правила в отношении оружия. Теперь они прямо охватывают программное обеспечение и компоненты, обеспечивающие его работу, в частности системы наведения и управления. Ограничения также касаются вооружения дронов и других автономных транспортных средств.

Ограничения в отношении слежки

Компания переписала правила о слежке и уголовном правосудии после того, как зафиксировала рост использования ИИ для создания систем идентификации и отслеживания политических диссидентов.

Обновленная политика запрещает отслеживать людей без их согласия — как в реальном времени, так и с помощью анализа ранее собранных данных. Claude также нельзя использовать для принятия решений или предоставления рекомендаций относительно того, кого расследовать, задерживать или обвинять в рамках правоохранительного или уголовного процесса.

Кроме того, запрещено создавать или совершенствовать инструменты, предназначенные для слежки. При этом разрешенными остаются, в частности, отслеживание с согласия людей, например для выявления мошенничества, модерация контента, журналистика и юридические исследования.

Требования к высокорисковым сценариям

Anthropic уточнила правила использования Claude в сферах, где рекомендации модели могут влиять на здоровье, законные права, финансы, средства к существованию или доступ к жизненно важным услугам.

В таких случаях должен быть привлечен квалифицированный человек, который может проверить рекомендации модели и при необходимости изменить их. Человека, на которого влияет решение, также необходимо уведомить об использовании ИИ. Эти требования действовали и ранее, но в новой редакции компания более конкретно описала, какие рекомендации подпадают под них.

Запрет на жестокое обращение с моделями

Anthropic также добавила запрет на длительное и безосновательное жестокое или издевательское поведение по отношению к своим моделям. По замыслу компании, правило будет применяться лишь в исключительных случаях, когда пользователь систематически издевается над моделью без понятной цели.

Запрет не распространяется на обычное недовольство, споры, темные творческие темы, тестирование или исследования моделей. Компания отметила, что новое правило согласуется с уже внедренной возможностью для Claude завершать отдельные разговоры на Claude.ai и Claude Code, в которых пользователи систематически прибегают к издевательствам.

Напомним, ранее Anthropic запустила бесплатный сканер уязвимостей для открытого ПО.

Сообщение Anthropic обновила политику использования Claude: что изменилось? появились сначала на INCRYPTED.