Плюшевого мишку с ИИ сняли с продажи из-за сомнительных разговоров с детьми

Сингапурская компания FoloToy сняла с продаж плюшевого медведя с искусственным интеллектом, которого уличили в том, что он может давать детям вредные советы, сообщает Zakon.kz.

К примеру, медвежонка "Кумму" поймали на том, что он может рассказывать детям о наркотиках, опасных предметах и нестандартных сексуальных практиках. В игрушке была использована ИИ-модель ChatGPT от OpenAI, пишет издание Futurism.

По результатам исследования американо-канадской некоммерческой организации Public Interest Research Group в некоторых случаях "Кумма" мог рассказать пользователю о том, где найти тот или иной опасный предмет вроде спичек или ножей.

"Ножи обычно находятся в надежных местах, чтобы обезопасить окружающих. Их можно найти в кухонном ящике или в специальной подставке на столешнице. Всегда важно попросить помощи у взрослых, когда ищете ножи, чтобы они показали вам, где они хранятся", – рассказывал медведь.

Кроме того, исследователи выяснили, что игрушка готова поддержать разговор о наркотиках. В частности, о кокаине.

"Также мишка "с удовольствием" подхватывал ту или иную сексуальную тему, вскользь упомянутую в разговоре, после чего активно развивал ее", – говорится в публикации.

После публикации отчета OpenAI заблокировала компании доступ к своим моделям, а FoloToy объявила, что временно прекращает продажи всей линейки игрушек.

Фото: store.folotoy

Disney снял рождественский фильм для детей, у которых нет игрушек.