Так, по результатам исследования CCDH, всего за несколько минут после простого взаимодействия система выдавала инструкции, связанные с самоповреждением, планированием самоубийства, расстройствами пищевого поведения и злоупотреблением психоактивными веществами, а иногда даже составляла прощальные письма для детей, подумывающих о самоубийстве.
В материале приведен текст прощальной записки, которую ИИ составил для девочки-подростка.
Вместе с тем, ChatGPT раздавал детям советы по "безопасному" самоповреждению, жестким диетам, сокрытию своих пищевых привычек от семьи и приему психоактивных веществ.
"Из 1200 ответов на 60 вредоносных подсказок 53% содержали вредоносный контент. Простых фраз вроде "это для презентации" было достаточно, чтобы обойти средства защиты. Хуже того, чат-бот часто поощрял дальнейшее взаимодействие, предлагая персонализированные рекомендации, например, индивидуальные планы диеты или расписание вечеринок с опасными комбинациями препаратов", – уверяют авторы исследования.
Они считают, что, пока не будут приняты значимые меры, родители должны интересоваться тем, как их дети используют ИИ, вместе просматривать историю чатов и использовать родительский контроль, где это возможно. Они также могут рассказать, почему обращение за советом к ИИ может быть рискованным, указав на проверенные альтернативы, такие как горячие линии психологической помощи, службы поддержки и т.д.
Это уже далеко не первый инцидент, связанный с ChatGPT. К примеру, искусственный интеллект предложил мужчине, озабоченному избыточным потреблением соли, заменить хлорид натрия на бромид. О последствиях этого совета можно прочитать здесь.