ИИ-бот от WhatsApp нарисовал детей с оружием при запросе "Палестина"

Функция WhatsApp, генерирующая изображения в ответ на поисковые запросы пользователей, выдала изображение пистолета или мальчика с оружием при запросе слов "палестинец", "Палестина" или "мусульманский мальчик-палестинец", сообщает Zakon.kz.

На запрос "израильский мальчик" выдавались карикатуры с изображением детей, играющих в футбол и читающих. В ответ на запрос "израильская армия" ИИ создал рисунки улыбающихся и молящихся солдат, без оружия, сообщает The Guardian.

Принадлежащий компании Meta сервис WhatsApp позволяет пользователям опробовать свой генератор изображений с искусственным интеллектом для создания стикера.

Meta подверглась нападкам со стороны многих пользователей Instagram и Facebook, размещающих контент в поддержку палестинцев.

Пользователи утверждают, что в условиях продолжающихся израильских бомбардировок сектора Газа компания Meta необъективно применяет политику модерации, что, по их мнению, равносильно цензуре.

Пользователи сообщают о том, что их скрывают от других пользователей без объяснения причин, и отмечают резкое падение активности в отношении их сообщений.

Ранее в Meta заявили, что никогда планировали подавлять какое-либо сообщество или точки зрения.

Представитель Meta Кевин МакАлистер заявил, что компания знает об этой проблеме и решает ее.

"Как мы уже говорили при запуске этой функции, модели могут выдавать неточные или несоответствующие результаты, как и все генеративные системы искусственного интеллекта. Мы будем продолжать совершенствовать эти функции по мере их развития и по мере того, как люди будут делиться своими отзывами".Кевин МакАлистер

Пользователи также зафиксировали несколько случаев, когда Instagram переводил слово "палестинец", сопровождаемое фразой "Хвала Аллаху" на арабском языке, в словосочетание "палестинский террорист". Компания принесла извинения за то, что она назвала "сбоем".

После появления таких стикеров, австралийский сенатор Мехрин Фаруки призвала комиссара по электронной безопасности страны провести расследование "расистских и исламофобских изображений, создаваемых Meta".