Anthropic передала полиции данные о пользовательнице, угрожавшей стрельбой

Жительница Флориды арестована по обвинению в «письменной или электронной угрозе массовой стрельбы / террористического акта». Информацию об угрозе правоохранительные органы получили от компании Anthropic. Женщина неоднократно сообщала о намерении устроить стрельбу в офисе шерифа округа в переписке с чат-ботом Claude.

Anthropic отслеживает чаты на предмет ключевых фраз и контента, которые могут быть расценены как угроза. В зависимости от серьёзности такие сообщения передают на проверку сотрудникам-людям. В этом случае команда компании решила сообщить об угрозе полиции.

Проверка судебных реестров подтверждает обвинение в тяжком преступлении, выдвинутое 30 сентября на основании статьи 836.10 законодательства Флориды. Разговор с чат-ботом может подпадать под действие закона как угроза, переданная «любым способом, позволяющим другому лицу ознакомиться с ней». Сообщения, выявленные сотрудниками Anthropic, включая упоминание огнестрельного оружия, вероятно, послужили основанием для ареста.

Anthropic пока не комментирует дело. В политике конфиденциальности, действующей с 10 сентября, указано, что раскрытие информации возможно для предотвращения серьёзного вреда здоровью людей или имуществу. В отчёте о запросах госорганов за вторую половину 2025 года для экстренного раскрытия применяется более строгий критерий — угроза смерти или серьёзных телесных повреждений. За этот период запросов от правоохранительных органов не поступало, но в статистику не включены случаи, когда Anthropic сама инициировала передачу информации.

Инцидент стал одним из ряда недавних случаев с чат-ботами Anthropic и OpenAI. 11 августа Anthropic сообщила ФБР о запросах, касающихся стрельбы в nearby начальной школе, — был арестован мужчина, обвинённый в террористической угрозе. 14 августа пользователь в чате с Claude пригрозил главе Anthropic огнестрельным оружием; компания уведомила полицию, но ареста не последовало.

У OpenAI похожая ситуация: в марте пользователь в переписке с ChatGPT заявил о намерении убить бывшую девушку, компания сообщила в ФБР. В августе он признал вину по обвинениям, включавшим письменные угрозы убийством, и был приговорён к восьми годам условного заключения. В июне генпрокурор Флориды подал иск против OpenAI, обвинив компанию в сокрытии информации о стрельбе в Университете штата Флорида. В сентябре власти Британской Колумбии обвинили OpenAI в том, что она не предупредила полицию о стрелке из Тамблер-Риджа, чью учётную запись в ChatGPT компания идентифицировала за восемь месяцев до нападения.

Эти случаи показывают противоречие: от разработчиков ИИ ждут соблюдения конфиденциальности, но одновременно возлагают на них ответственность, если они не сообщают об угрозах. Для пользователей это напоминание, что информация, которой они делятся с ИИ-собеседником, не бывает по-настоящему анонимной.