Как пишет "Газета.Ru", ученые представили итоги своей работы на девятой конференции AAAI/ACM по искусственному интеллекту, этике и обществу.
Эксперты провели масштабный эксперимент с видеороликами, в котором участвовали 331 человек.
Во время исследования людям предлагали посмотреть ролик с дорожно-транспортным происшествием. На записи красный автомобиль сбивал пешехода на пешеходном переходе. Спустя сутки испытуемым предлагали прочитать краткую сводку происшествия от языковых моделей ChatGPT и Gemini.
Тексты намеренно содержали ошибки или упускали ключевые детали. Чтение неточных данных резко снижало способность вспомнить реальные события прошлого. Но после правдивых сводок правильные ответы давали 83,6% респондентов. Внимательное изучение ложных текстов снижало точность воспоминаний до 44,8%.
Авторы эксперимента отметили, что подобные искажения несут прямую угрозу для восприятия информации и оценки происходящих событий.
Женщину арестовали после переписки с ИИ-ассистентом, она общалась с чатботом как с личным дневником. Однако о ее сообщениях стало известно полиции.