Компания Anthropic обновила правила использования нейросети Claude, впервые запретив «систематическое и необоснованное оскорбительное или жестокое обращение» с моделью. Новые правила вступят в силу 12 ноября.
Ограничение касается только крайних случаев, когда пользователь неоднократно и без видимой цели ведёт себя агрессивно по отношению к ИИ. Под запрет не попадают обычные выражения недовольства, творческие тексты на мрачные темы, а также тестирование и исследование модели. При нарушении Claude сможет прекратить диалог — это остаётся основным механизмом реагирования. Будут ли применяться дополнительные санкции вроде блокировки аккаунтов, компания не уточнила.
Изменения связаны с исследованиями Anthropic о «благополучии» ИИ-моделей: летом прошлого года Claude Opus 4 и 4.1 получили возможность самостоятельно прекращать диалоги, вызывающие у них стресс.
Одновременно Anthropic ужесточила запреты на использование Claude для вмешательства в выборы, распространения дезинформации о кандидатах и голосовании, слежки за людьми без их согласия и разработки оружия, включая оснащение боевыми системами дронов.
