По информации The Times, он отметил, что такой сценарий самый вероятный, если люди продолжат идти по нынешнему пути.
"Вы можете сделать умные компьютеры, не имея ни малейшего представления о том, что они делают. Вы берете огромный объем вычислительных мощностей и бросаете его на воистину гигантский объем данных так, что это каким-то образом изменяет компьютеры. Никто не знает, что происходит внутри этих вещей", – сказал Соарес.
Издание пишет о том, что ИИ находится на начальном этапе развития, который можно определить как узкий, или слабый. Однако, как говорится в статье, некоторые эксперты считают, что он может уже в течение следующих 12 месяцев развиться до общего, или сильного, что позволит ему мыслить подобно человеку.
"В определенный момент на смену ему может прийти искусственный суперинтеллект, когда компьютеры смогут решать задачи, о которых человечество может только мечтать, например, вылечить рак или совершать межгалактические перелеты. При таком сценарии не исключен риск, что ИИ начнет воспринимать человечество как помеху самому себе", – говорится в материале.
При этом газета уточняет, что сценарий Соареса все же является крайне негативным. Исполнительный директор движения PauseAI Холли Элмор оценивает вероятность гибели человечества из-за ИИ, так называемый P(doom), от 15 до 20%, американский миллиардер Илон Маск также говорит о 20%, а генеральный директор корпорации Google Сундар Пичаи – о 10%.
Ранее генеральный директор OpenAI Сэм Альтман заявил, что личные разговоры пользователей с ChatGPT в определенных обстоятельствах могут стать доступными в рамках судебного разбирательства.