Экс-инженер Google оценил риск гибели человечества из-за ИИ в 95%

Вероятность вымирания человечества из-за развития искусственного интеллекта составляет около 95%. Об этом заявил бывший инженер компаний Google и Microsoft Нейт Соарес, сообщает Zakon.kz.

По информации The Times, он отметил, что такой сценарий самый вероятный, если люди продолжат идти по нынешнему пути.

"Вы можете сделать умные компьютеры, не имея ни малейшего представления о том, что они делают. Вы берете огромный объем вычислительных мощностей и бросаете его на воистину гигантский объем данных так, что это каким-то образом изменяет компьютеры. Никто не знает, что происходит внутри этих вещей", – сказал Соарес.

Издание пишет о том, что ИИ находится на начальном этапе развития, который можно определить как узкий, или слабый. Однако, как говорится в статье, некоторые эксперты считают, что он может уже в течение следующих 12 месяцев развиться до общего, или сильного, что позволит ему мыслить подобно человеку.

"В определенный момент на смену ему может прийти искусственный суперинтеллект, когда компьютеры смогут решать задачи, о которых человечество может только мечтать, например, вылечить рак или совершать межгалактические перелеты. При таком сценарии не исключен риск, что ИИ начнет воспринимать человечество как помеху самому себе", – говорится в материале.

При этом газета уточняет, что сценарий Соареса все же является крайне негативным. Исполнительный директор движения PauseAI Холли Элмор оценивает вероятность гибели человечества из-за ИИ, так называемый P(doom), от 15 до 20%, американский миллиардер Илон Маск также говорит о 20%, а генеральный директор корпорации Google Сундар Пичаи – о 10%.

Ранее генеральный директор OpenAI Сэм Альтман заявил, что личные разговоры пользователей с ChatGPT в определенных обстоятельствах могут стать доступными в рамках судебного разбирательства.