Евгений Кочетов отметил, что технологии на основе искусственного интеллекта активно используются в мошеннических схемах.
"Создаются поддельные голоса, видео и изображения, так называемые дипфейки. Растет объем противоправного контента в Сети", – пояснил он.
Для борьбы с такими явлениями, по его словам, Министерство культуры и информации создает цифровую инициативу по автоматическому выявлению фейкового контента и определению дипфейков.
"Эта технология основана на искусственном интеллекте и уже показывает эффективность в борьбе с онлайн-наркоторговлей. Так, специальная система "МЕРГЕН", работающая на основе ИИ, автоматически мониторит информационное поле, выявляет интернет-магазины наркотиков по прямым и косвенным признакам и блокирует их. Только на этой неделе был закрыт 5000-й такой ресурс. Сейчас мы обучаем LLM-модель, чтобы включить в нее функции выявления дипфейков", – пояснил вице-министр.
Совершенствуется и система правового мониторинга. В частности, с помощью искусственного интеллекта расширяется перечень тем, подлежащих мониторингу.
"Алгоритмы смогут анализировать контент, выявлять признаки противоправности и автоматически направлять его на блокировку. Эта работа уже внедряется в практику", – резюмировал Евгений Кочетов.
3 марта 2025 года депутат Мажилиса Екатерина Смышляева рассказала, какую ответственность планируется предусмотреть за дипфейки в новом законопроекте "Об искусственном интеллекте".