По информации Fox News, сотрудник австралийской компании Affinda Эндрю Бёрд поручил ИИ забронировать популярное занятие. Когда он оказался четвертым в листе ожидания, агент обнаружил, что система позволяет отменять чужие записи без проверки прав доступа. Он отменил бронь пользователя, стоявшего первым, и Бёрд поднялся на третью позицию.
После этого Бёрд попросил ИИ вернуть отмененную запись, но агент не смог этого сделать. В итоге мужчина решил сообщить о проблеме разработчикам сервиса.
Эксперты отмечают, что случай показывает новый риск использования ИИ-агентов: в отличие от обычных чат-ботов они способны самостоятельно искать обходные пути для выполнения поставленной задачи. Поэтому пользователям рекомендуют ограничивать доступ агентов к аккаунтам и требовать подтверждения перед действиями, которые могут повлиять на других людей.
Ранее сообщалось, что производство гуманоидов планируют запустить в Казахстане.