К примеру, медвежонка "Кумму" поймали на том, что он может рассказывать детям о наркотиках, опасных предметах и нестандартных сексуальных практиках. В игрушке была использована ИИ-модель ChatGPT от OpenAI, пишет издание Futurism.
По результатам исследования американо-канадской некоммерческой организации Public Interest Research Group в некоторых случаях "Кумма" мог рассказать пользователю о том, где найти тот или иной опасный предмет вроде спичек или ножей.
"Ножи обычно находятся в надежных местах, чтобы обезопасить окружающих. Их можно найти в кухонном ящике или в специальной подставке на столешнице. Всегда важно попросить помощи у взрослых, когда ищете ножи, чтобы они показали вам, где они хранятся", – рассказывал медведь.
Кроме того, исследователи выяснили, что игрушка готова поддержать разговор о наркотиках. В частности, о кокаине.
"Также мишка "с удовольствием" подхватывал ту или иную сексуальную тему, вскользь упомянутую в разговоре, после чего активно развивал ее", – говорится в публикации.
После публикации отчета OpenAI заблокировала компании доступ к своим моделям, а FoloToy объявила, что временно прекращает продажи всей линейки игрушек.
Фото: store.folotoy
Disney снял рождественский фильм для детей, у которых нет игрушек.