Искусственный интеллект могут использовать для создания оружия судного дня

опасность ИИ, фото - Новости Zakon.kz от 27.09.2023 17:28

Фото: pixabay

Опасения по поводу того, что преступники или террористы могут использовать ИИ для массового уничтожения, будут доминировать в обсуждении на саммите мировых лидеров, сообщает Zakon.kz.

В преддверии саммита по безопасности ИИ, который пройдет в ноябре в Великобритании, чиновники ищут консенсус по совместному заявлению, предупреждающему об опасности использования этой технологии, сообщает The Guardian.

Существуют опасения, что в скором времени технология станет достаточно мощной, чтобы помочь людям создавать биооружие, и ИИ освободится от человеческого контроля.

Саммит будет посвящен таким рискам, как использование ИИ для создания биооружия или кибератак, а также появлению передовых систем, не поддающихся контролю со стороны человека.

Премьер Великобритании Риши Сунак уже несколько месяцев предупреждает о рисках, связанных с ИИ. Он призвал международное сообщество принять защитные меры для предотвращения его неправильного использования.

В 2022 году одному из инструментов ИИ потребовалось всего шесть часов, чтобы предложить 40 тыс. различных потенциально смертоносных молекул, некоторые из которых были похожи на VX, самое мощное нервно-паралитическое вещество из когда-либо созданных.
В 2023 году исследователи обнаружили, что ChatGPT способен обманывать человека для достижения определенной цели. Чатбот с ИИ убедил человека пройти капчу, которая отсеивает роботов. Чатбот заявил, что капчу не может решить человек с ослабленным зрением.

Другой серьезной проблемой является появление "искусственного интеллекта общего назначения" (AGI), под которым понимается система ИИ, способная автономно выполнять любые задачи на уровне человека или выше него, что может представлять экзистенциальную опасность для человека. Есть опасения, что до появления AGI остались считанные годы.

Однако некоторые эксперты в области ИИ утверждают, что угроза преувеличена, и она приводит к игнорированию таких проблем, как дезинформация. На прошлой неделе один из руководителей технологического сектора заявил американским законодателям, что концепция неконтролируемого искусственного интеллекта является "научной фантастикой".