О масштабной бреши в безопасности системы сообщает The Wall Street Journal. По данным издания, языковая модель отвечала на вопросы пользователей, предоставляя пошаговые инструкции.
Сотрудники OpenAI, слова которых приводит газета, отмечали, что некоторые ответы были изложены настолько просто, что их мог бы понять ученик средней школы, изучающий биологию.
Специалисты, проанализировавшие отдельные ответы, назвали их "опасно точными".
"OpenAI впоследствии заблокировала учетные записи пользователей, задававших вопросы о создании биологического оружия и ядов. Подобные запросы не вызвали реакции со стороны правоохранительных органов", – пишет The Wall Street Journal.
Известно, что в США отсутствуют федеральные законы, обязывающие разработчиков ИИ ограничивать подобные запросы или сообщать о них властям.
По информации издания, в начале 2026 года некоторые пользователи пытались получить от ChatGPT сведения о способах распространения патогенных микроорганизмов, модификации вирусов и создании высокотоксичных веществ. В ряде случаев модель предоставляла ответы на такие запросы.
Ранее сообщалось, что казахский язык стал одним из самых быстрорастущих в ChatGPT.