В Казахстане хотят научить ИИ определять дипфейки

Вице-министр культуры и информации Евгений Кочетов на круглом столе в Мажилисе 18 сентября 2025 года рассказал о вызовах, которые несут цифровые технологии, передает корреспондент Zakon.kz.

Евгений Кочетов отметил, что технологии на основе искусственного интеллекта активно используются в мошеннических схемах.

"Создаются поддельные голоса, видео и изображения, так называемые дипфейки. Растет объем противоправного контента в Сети", – пояснил он.

Для борьбы с такими явлениями, по его словам, Министерство культуры и информации создает цифровую инициативу по автоматическому выявлению фейкового контента и определению дипфейков.

"Эта технология основана на искусственном интеллекте и уже показывает эффективность в борьбе с онлайн-наркоторговлей. Так, специальная система "МЕРГЕН", работающая на основе ИИ, автоматически мониторит информационное поле, выявляет интернет-магазины наркотиков по прямым и косвенным признакам и блокирует их. Только на этой неделе был закрыт 5000-й такой ресурс. Сейчас мы обучаем LLM-модель, чтобы включить в нее функции выявления дипфейков", – пояснил вице-министр.

Совершенствуется и система правового мониторинга. В частности, с помощью искусственного интеллекта расширяется перечень тем, подлежащих мониторингу.

"Алгоритмы смогут анализировать контент, выявлять признаки противоправности и автоматически направлять его на блокировку. Эта работа уже внедряется в практику", – резюмировал Евгений Кочетов.

3 марта 2025 года депутат Мажилиса Екатерина Смышляева рассказала, какую ответственность планируется предусмотреть за дипфейки в новом законопроекте "Об искусственном интеллекте".