30-летней жительнице Флориды предъявили уголовное обвинение после того, как система безопасности Claude обнаружила в её переписке сообщения об угрозе стрельбы в управлении шерифа округа Ли. Разговор был передан на проверку сотрудникам Anthropic, после чего компания уведомила правоохранительные органы.
Согласно отчёту об аресте, на который ссылаются местные СМИ, утром 26 сентября пользователь, идентифицированный как Карли Мишель Хеллер из Бонита-Спрингс, написала о намерении устроить стрельбу в управлении шерифа округа Ли. На следующий день в переписке появилось сообщение о приобретении оружия и формулировка о «последнем шансе».
Claude не «позвонил в полицию»
История получила широкое распространение как пример того, что искусственный интеллект «донёс» на пользователя. Реальный же механизм сложнее.
В материалах дела говорится, что сообщения сначала обнаружили системы безопасности Anthropic. После автоматического срабатывания информация была передана на ручную проверку, и уже затем компания уведомила правоохранительные органы.
Такая архитектура соответствует опубликованному описанию систем безопасности Anthropic. Компания прямо сообщает, что использует сочетание автоматических классификаторов и проверки человеком для выявления потенциально опасного использования Claude. Специализированные модели могут анализировать входящие запросы и ответы в реальном времени, после чего в отдельных случаях возможны дополнительные меры в отношении аккаунта.
Теперь значение имеет и формулировка закона
Хеллер обвиняют по статье 836.10 законодательства Флориды, которая запрещает письменные или электронные угрозы убийством, причинением телесных повреждений, массовой стрельбой или террористическим актом.
Закон распространяется на электронные записи, переданные способом, при котором их может увидеть другой человек. Нарушение квалифицируется как уголовное преступление второй степени.
Именно здесь дело становится особенно интересным с точки зрения цифрового права: предполагаемая угроза была адресована не человеку в мессенджере и не опубликована в социальной сети, а введена в чат с ИИ-сервисом. Однако содержание разговора в итоге оказалось доступно системе безопасности и сотрудникам компании.
Пока суд не определил, какое значение это обстоятельство будет иметь для квалификации дела. Но уже сейчас история показывает важную границу приватности современных ИИ-сервисов: пользователь общается не с изолированным локальным приложением, а с облачной платформой, где определённый опасный контент может быть автоматически обнаружен, проверен человеком и в экстренной ситуации передан правоохранительным органам.
Заместитель главного редактора Happy Coin News. Образование: экономист. Второе образование маркетинг. В криптоиндустрии с 2014 года. Неоднократно выступал в качестве эксперта на РБК. Биткоин — это не спекуляции, а свобода. Но, свобода требует личной ответственности.
