30-летняя женщина общалась с чатботом как с личным дневником. Судя по протоколу ареста, 26 сентября 2026 года около 5:00 утра она написала Claude, что прямо сейчас пойдет стрелять в офис шерифа. А следующей ночью, около 1:00, она написала новое грубое сообщение с нецензурной бранью: с нее хватит, и сегодня она купила новый пистолет. А 30 сентября женщину арестовали у нее дома в городе Бонита-Спрингс.
Женщине предъявили обвинение в письменной угрозе насилием по статье уголовного закона Флориды. Суд назначен на ноябрь.
После этого случая встал вопрос: как произошло, что сокровенная тайна, доверенная ИИ-"дневнику", дошла до полиции.
Как указано в протоколе ареста, встроенные системы безопасности Claude автоматически следят за перепиской и ищут слова и фразы, похожие на угрозы. Увидев такие сообщения, система передала диалог реальным сотрудникам компании. Те прочитали переписку и сочли ее достаточно серьезной, чтобы сообщить в полицию. То есть решение об обращении к правоохранителям принимал человек, а не нейросеть.
История совпала по времени с опросом, который провела поисковая компания DuckDuckGo среди 2 000 взрослых. Выяснилось, что пользователи плохо понимают, что происходит с их перепиской. Например, сотрудники ИИ-компаний могут просматривать чаты, а суд и полиция могут затребовать их официально, пишет Hi-news. Кроме того, переписка может стать публичной, если ее приобщат к материалам судебного дела. При этом треть пользователей ИИ (32%) рассказывали чатботу то, что скрывают от близких людей.
Из этой истории можно сделать вывод: чатбот – это не запертый дневник. Чаще всего ваши сообщения никто не читает, но у компании есть автоматические фильтры, живые модераторы и юридические обязательства. Поэтому писать стоит с расчетом, что при определенных обстоятельствах текст может увидеть кто-то еще.
16-летний подросток из Канады доверил искусственному интеллекту составить маршрут для восхождения на гору Краун в Британской Колумбии, и оказался в смертельной ловушке.