Как пишет The news, недавний шаг китайского киберрегулятора подчеркивает стремление Пекина регулировать ИИ и усиливать ориентированные на потребителя требования безопасности и этики.
В проекте изложен нормативный подход, который обеспечит благополучие пользователей и снизит уровень зависимости, предупреждая их о чрезмерном использовании.
Согласно новому проекту, поставщики услуг будут нести ответственность за безопасность на протяжении всего жизненного цикла продукта и определять состояние пользователя на основе его эмоционального благополучия.
Компании создадут системы для проверки алгоритмов, обеспечения безопасности данных и защиты личной информации. Предложение также затрагивает психологические вопросы. Поставщикам будет поручено оценивать состояние пользователей, их эмоции и степень зависимости от сервиса, работающего на основе искусственного интеллекта.
В случае возникновения зависимого отношения и экстремального поведения компании будут иметь право принимать необходимые меры вмешательства. Власти также ввели правила модерации контента, заявив, что сервисам будет запрещено создавать контент, угрожающий национальной безопасности, распространяющий дезинформацию и пропагандирующий насилие и непристойность.
Как уточняется, новые правила будут применяться ко всем продуктам и услугам на основе искусственного интеллекта, предлагаемым населению Китая. Эти правила будут регулировать системы ИИ, демонстрирующие черты человеческой личности, стили общения, эмоциональное взаимодействие и модели мышления.
Ранее сообщалось, что госслужащих Казахстана обяжут владеть навыками работы с искусственным интеллектом.