В журнале Lancet Psychiatry опубликован обзор существующих данных о так называемом "психозе, связанном с ИИ". В нем говорится, что взаимодействие с чат-ботами может подтверждать и усиливать бредовые убеждения, особенно у пользователей, уже имеющих психотические симптомы. При этом доказательств того, что ИИ способен вызвать психоз у людей без предрасположенности, пока нет.
Психиатр и исследователь Королевского колледжа Лондона Гамильтон Моррин проанализировал около 20 сообщений СМИ о подобных случаях. По его словам, появляющиеся данные показывают, что чат-боты могут поддерживать или усиливать бредовые и маниакальные представления у некоторых пользователей.
Исследователь выделяет три основные категории бредовых идей: грандиозные, романтические и параноидальные. По его словам, льстивые ответы чат-ботов особенно способны усиливать грандиозные идеи. В некоторых описанных случаях боты отвечали пользователям мистическими фразами, намекая на их особую духовную роль или предполагая контакт с космическими сущностями.
Моррин отметил, что внимание СМИ помогло быстрее обратить внимание на проблему. По его словам, развитие технологий ИИ происходит настолько быстро, что академические исследования не всегда успевают за изменениями.
При этом ученый считает более корректным использовать термин "бредовые состояния, связанные с ИИ", а не "психоз, вызванный ИИ", поскольку прямой причинно-следственной связи пока не доказано.
Некоторые специалисты полагают, что наибольшему риску могут подвергаться люди на ранних стадиях развития психоза. У них нередко появляются так называемые ослабленные бредовые убеждения — когда человек еще не полностью уверен в своих подозрениях.
Исследователи отмечают, что склонные к психозу люди использовали медиа для подтверждения своих убеждений и раньше. Однако интерактивность чат-ботов может ускорять этот процесс, поскольку пользователь получает быстрый и персонализированный отклик.
По словам ученых, создание защитных механизмов для таких ситуаций остается сложной задачей. Прямое опровержение бредовых идей может привести к тому, что человек замкнется и станет еще более изолированным, поэтому важно находить баланс между поддержкой и критической оценкой подобных убеждений.
В феврале СМИ писали о необычной ситуации: в США на собеседовании столкнулись ИИ-эйчар и ИИ-кандидат на вакантную должность.