Цифровой доносчик: ИИ-бот сдал американку полиции за угрозы стрельбы
Жительница Флориды использовала чат-бота как личный дневник, не подозревая, что алгоритмы следят за каждым словом.
Модель искусственного интеллекта Claude стала осведомителем, передав данные о своей пользовательнице Карли Мишель Хеллер правоохранительным органам США. Об этом рассказал телеканал WINK News, ссылаясь на офис шерифа округа.
26 сентября женщина сообщила о намерении устроить стрельбу в офисе шерифа округа Ли. Как утверждают следователи, уже на следующий день та же пользовательница заявила, что приобрела новое оружие.
По информации телеканала, американка вела с ИИ-ботом диалог, используя его в качестве личного дневника для своих размышлений. Платформа, которой пользовалась Хеллер, анализирует ключевые фразы и выявляет потенциально опасный контент. Обнаружив угрозы, модель передала сведения группе специалистов, а те, в свою очередь, уведомили правоохранителей.
Шериф Кармин Марчено в беседе с телеканалом отметил, что искусственный интеллект — это мощный инструмент, и, как любая технология, он может быть использован во вред. По его словам, когда кто-то применяет ИИ для создания угрозы или содействия ей, к таким сигналам следует относиться со всей серьёзностью. Он также подчеркнул, что пользователи ИИ-чатов никогда не остаются по-настоящему анонимными.
Женщину задержали. Ей инкриминируют письменную угрозу насилия.
Уважаемые читатели «Царьграда»!
Присоединяйтесь к нам в соцсетях ВКонтакте, Одноклассники, Telegram.
Подписывайтесь на наш канал в Дзене. Там все самое интересное.