ИИ-бот написал на женщину донос в полицию в США

По данным телеканала, Хеллер использовала Claude в качестве личного дневника.

В США модель искусственного интеллекта Claude передала правоохранителям информацию о пользовательнице, которая заявила о намерении устроить стрельбу. Об этом сообщает телеканал WINK News со ссылкой на офис шерифа округа Ли.

Согласно протоколу ареста, 26 сентября женщина, опознанная как Карли Мишель Хеллер, сообщила ИИ-чату, что собирается устроить стрельбу в офисе шерифа. На следующий день она сделала ещё одно заявление — о приобретении нового оружия.

По данным телеканала, Хеллер использовала Claude в качестве личного дневника. Платформа отслеживает ключевые фразы и выявляет потенциально угрожающий контент. Распознав заявления, модель передала информацию группе экспертов, которая затем уведомила правоохранительные органы.

Хеллер задержана. Ей предъявлено обвинение в письменной угрозе насилия по законодательству Флориды. Шериф также отметил, что пользователи «никогда не бывают по-настоящему анонимными» при использовании ИИ-чатов.

Больше актуальных новостей и эксклюзивных видео – в нашем МАХ-канале.